Sociosanitario — AI Act: encuadrar la IA de acompañamiento

¿De qué trata el AI Act?

Al igual que en el sector público, la IA que evalúa la elegibilidad para prestaciones sociales esenciales puede clasificarse como de alto riesgo. Los usos de planificación o de apoyo administrativo corresponden generalmente al riesgo limitado.

La vulnerabilidad de los públicos hace que el control de los sesgos y la supervisión humana sean especialmente críticos.

¿El sector «Sociosanitario» está afectado?

Las organizaciones que despliegan IA de evaluación son desplegadores; el editor es proveedor. Algunos desplegadores deben realizar una FRIA.

Los usos puramente organizativos se rigen por regímenes más ligeros, aunque siguen estando sujetos al RGPD.

Obligaciones detalladas

Sanciones y riesgos

Hasta 35 M€ o 7 % por las prácticas prohibidas y 15 M€ o 3 % por el alto riesgo, además del riesgo RGPD. Una IA de acceso sesgada afecta a personas vulnerables.

Calendario de aplicación

• 1Entrada en vigor. 1 de agosto de 2024.
• 2Alto riesgo. A partir del 2 de agosto de 2026 para el acceso a las prestaciones.

Errores frecuentes en el sector

• 1Alto riesgo negado. Tratar una IA de acceso como herramienta administrativa.
• 2FRIA omitida. No analizar el impacto sobre los derechos.
• 3Sesgos no controlados. Discriminar a públicos vulnerables.
• 4Supervisión de fachada. Validar mecánicamente las decisiones.

Caso práctico

Una entidad prueba una IA de preevaluación de la elegibilidad a una ayuda. Al ser un uso potencialmente de alto riesgo, realiza una FRIA, prevé una supervisión humana reforzada y controla los sesgos, en articulación con la EIPD.

Hoja de ruta de cumplimiento

1. 1

   Inventariar. Registrar los usos de IA.

2. 2

   Calificar. Aislar el alto riesgo.

3. 3

   FRIA/EIPD. Realizar los análisis.

4. 4

   Encuadrar. Supervisión y control de sesgos.

5. 5

   Supervisar. Poscomercialización y reevaluación.

Preguntas frecuentes