En resumen
- Regulación: AI Act.
- La EdTech es proveedor; el centro u organismo es el responsable del despliegue.
- Calificar los sistemas.
- Controlar los sesgos.
- Garantizar la supervisión humana.
- Hasta 35 M€ o el 7 % para las prácticas prohibidas y 15 M€ o el 3 % para el alto riesgo, además del riesgo RGPD.
Plazos normativos
Las fechas clave de esta normativa.
Agosto de 2024
Entrada en vigor
En vigorFebrero de 2025
Prohibición de prácticas prohibidas
En vigorAgosto de 2025
Modelos de IA de uso general (GPAI) y gobernanza
En vigorAgosto de 2026
Obligaciones de sistemas de alto riesgo (Anexo III)
En vigorAgosto de 2027
Alto riesgo integrado en productos (Anexo I)
Próximamente¿De qué trata el AI Act?
El anexo III del AI Act contempla la IA destinada a la admisión o asignación en centros educativos, a la evaluación de los resultados de aprendizaje, a la orientación, y a la vigilancia/detección de comportamientos prohibidos durante los exámenes. Estos sistemas soportan las obligaciones de alto riesgo.
Los usos puramente pedagógicos sin decisión sobre las personas corresponden a regímenes más ligeros.
¿El sector «Educación y formación» está afectado?
La EdTech es proveedor; el centro u organismo es deployador. Cada uno asume obligaciones propias.
Los tutores adaptativos sin decisiones de evaluación pueden acogerse a regímenes más ligeros, manteniéndose en todo caso sujetos al RGPD.
Obligaciones detalladas
Calificar los sistemas
Aislar admisión, evaluación, orientación y proctoring (alto riesgo).
Controlar los sesgos
Auditar datos y resultados para prevenir discriminaciones.
Garantizar la supervisión humana
Garantizar una decisión humana efectiva (especialmente en las evaluaciones).
Garantizar la transparencia
Informar a estudiantes y familias sobre el uso de la IA.
Documentar (proveedor)
Constituir la documentación técnica y la evaluación.
Sanciones y riesgos
Hasta 35 M€ o el 7 % para las prácticas prohibidas y 15 M€ o el 3 % para el alto riesgo, además del riesgo RGPD. Una evaluación algorítmica injusta afecta de forma duradera al recorrido de un alumno.
Calendario de aplicación
- 1Entrada en vigor. 1 de agosto de 2024.
- 2Alto riesgo. A partir del 2 de agosto de 2026 para la IA educativa.
Errores frecuentes en el sector
- 1Alto riesgo negado. Tratar una corrección automatizada como una simple herramienta.
- 2Sesgos no probados. No auditar los resultados por perfil.
- 3Proctoring no supervisado. Vigilar los exámenes sin garantías.
- 4Transparencia ausente. No informar a los alumnos y sus familias.
Caso práctico
Un organismo despliega una vigilancia de exámenes a distancia mediante IA. De uso de alto riesgo e intrusivo, exige una EIPD, una supervisión humana de las alertas, la información a los candidatos y una auditoría de sesgos, siendo el editor quien proporciona la documentación de conformidad.
Hoja de ruta de cumplimiento
- 1
Inventariar. Inventariar los usos de IA educativa.
- 2
Calificar. Aislar el alto riesgo.
- 3
Auditar los sesgos. Controlar datos y resultados.
- 4
Encuadrar. Supervisión y transparencia.
- 5
Documentar. Documentación y evaluación (proveedor).
Preguntas frecuentes
Sí, cuando evalúa los resultados de aprendizaje.
Pase a la acción en AI Act
Diagnóstico gratuito o una charla con un experto dedicado a educación y formación.
Ya confían en nosotros
Descubra cómo organizaciones del sector educación y formación aseguraron su cumplimiento con DCO.