En resumen
- Regulación: AI Act.
- Las administraciones que despliegan IA de instrucción o de concesión de prestaciones están concernidas como desplegadores, y como proveedores si desarrollan el sistema.
- Calificar los sistemas.
- Realizar una EIPD.
- Garantizar la supervisión humana.
- Hasta 35 M€ o el 7 % para las prácticas prohibidas y 15 M€ o el 3 % para los incumplimientos de alto riesgo.
Plazos normativos
Las fechas clave de esta normativa.
Agosto de 2024
Entrada en vigor
En vigorFebrero de 2025
Prohibición de prácticas prohibidas
En vigorAgosto de 2025
Modelos de IA de uso general (GPAI) y gobernanza
En vigorAgosto de 2026
Obligaciones de sistemas de alto riesgo (Anexo III)
En vigorAgosto de 2027
Alto riesgo integrado en productos (Anexo I)
Próximamente¿De qué trata el AI Act?
El anexo III del AI Act contempla los sistemas de IA destinados a evaluar la elegibilidad para prestaciones y servicios públicos esenciales y a concederlos, reducirlos o retirarlos, así como varios usos soberanos. Estos sistemas están sujetos a las obligaciones del alto riesgo.
Además, algunos desplegadores, incluidos organismos públicos, deben realizar una evaluación de impacto sobre los derechos fundamentales (FRIA).
¿Está afectado el sector «Sector público»?
Las administraciones que despliegan IA de instrucción o de concesión de prestaciones están concernidas como desplegadores, y como proveedores si desarrollan el sistema.
Los usos informativos o internos se rigen por regímenes más ligeros.
Obligaciones detalladas
Calificar los sistemas
Aislar las IA de elegibilidad y concesión (alto riesgo).
Realizar una EIPD
Llevar a cabo el análisis de impacto sobre los derechos fundamentales.
Garantizar la supervisión humana
Garantizar un control humano efectivo de las decisiones individuales.
Garantizar transparencia y no discriminación.
Informar a los usuarios y controlar los sesgos.
Articular con la EIPD
Coordinar la FRIA y la EIPD del RGPD.
Sanciones y riesgos
Hasta 35 M€ o el 7 % para las prácticas prohibidas y 15 M€ o el 3 % para los incumplimientos de alto riesgo. Una IA de concesión sesgada puede generar discriminación sistémica.
Calendario de aplicación
- 1Entrada en vigor. 1 de agosto de 2024.
- 2Alto riesgo. A partir del 2 de agosto de 2026 para los servicios públicos esenciales.
Errores frecuentes en el sector
- 1Alto riesgo no identificado. Tratar una IA de concesión como una herramienta interna.
- 2FRIA omitida. No analizar el impacto sobre los derechos.
- 3Sesgos no controlados. Crear una discriminación sistémica.
- 4Supervisión de fachada. Control humano sin medios reales.
Caso práctico
Una administración automatiza el precálculo de una prestación social. Al tratarse de un sistema de alto riesgo, impone FRIA, supervisión humana de las denegaciones, transparencia hacia los usuarios y control de sesgos, articulados con la EIPD del RGPD.
Hoja de ruta de cumplimiento
- 1
Inventariar. Inventariar las IA de instrucción y de concesión.
- 2
Calificar. Aislar el alto riesgo.
- 3
FRIA/EIPD. Realizar los análisis de impacto.
- 4
Encuadrar. Supervisión, transparencia, control de sesgos.
- 5
Supervisar. Poscomercialización y reevaluación.
Preguntas frecuentes
No: la IA de elegibilidad/concesión de prestaciones esenciales sí lo es; la información corresponde al riesgo limitado.
Pase a la acción en AI Act
Diagnóstico gratuito o una charla con un experto dedicado a sector público.
Ya confían en nosotros
Descubra cómo organizaciones del sector sector público aseguraron su cumplimiento con DCO.