Entidad local — AI Act: regular la IA de los servicios locales

¿De qué trata el AI Act?

El AI Act clasifica como de alto riesgo la IA que evalúa la elegibilidad para prestaciones y servicios públicos esenciales. Los usos locales de atención al usuario o de información se encuadran generalmente en el riesgo limitado.

Ciertos desplegadores públicos deben realizar una FRIA para los sistemas de alto riesgo.

¿Afecta la normativa al sector «Administración local»?

Las administraciones locales que despliegan IA de acceso a prestaciones están afectadas como desplegadoras. Los chatbots informativos se encuadran en riesgo limitado.

El desarrollo de un sistema bajo la marca del ente público lo situaría en la posición de proveedor.

Obligaciones detalladas

Sanciones y riesgos

Hasta 35 M€ o el 7 % por prácticas prohibidas y 15 M€ o el 3 % por alto riesgo. Una IA local de concesión sesgada afecta directamente a los usuarios.

Calendario de aplicación

• 1Entrada en vigor. 1 de agosto de 2024.
• 2Alto riesgo. A partir del 2 de agosto de 2026 para el acceso a las prestaciones.

Errores frecuentes en el sector

• 1Alto riesgo no identificado. Tratar una IA de concesión como un simple chatbot.
• 2FRIA omitida. No analizar el impacto sobre los derechos.
• 3Transparencia ausente. No informar a los usuarios.
• 4Sesgos no controlados. Crear una discriminación local.

Caso práctico

Una mancomunidad despliega una IA de preinstrucción de ayudas sociales. Al tratarse de un uso de alto riesgo, realiza una EIPD, prevé una supervisión humana de las denegaciones e informa a los usuarios, compartiendo la experiencia con otras entidades locales.

Hoja de ruta de cumplimiento

1. 1

   Inventariar. Registrar los usos de la IA locales.

2. 2

   Calificar. Aislar el alto riesgo.

3. 3

   EIPD. Realizar el análisis para el alto riesgo.

4. 4

   Encuadrar. Supervisión, transparencia, sesgos.

5. 5

   Mutualizar. Compartir recursos entre entidades públicas.

Preguntas frecuentes