Shadow AI: ¿cómo cartografiar los usos reales de la IA en 30 días?
Por qué el shadow AI es el primer riesgo de IA de la empresa
El inventario de los sistemas de IA es el punto de partida de todas las obligaciones del AI Act: imposible formar a los usuarios (artículo 4), descartar las prácticas prohibidas (artículo 5), garantizar la transparencia (artículo 50) o preparar el régimen de alto riesgo sobre usos que se ignoran. En cuanto al RGPD, cada prompt que contiene datos personales es un tratamiento no documentado; en cuanto al secreto empresarial, cada introducción de información confidencial en una herramienta de uso general fragiliza la protección jurídica (véase el artículo ChatGPT en empresa). Y la experiencia muestra que la brecha entre usos declarados y usos reales es masiva: la IA ha entrado por los individuos, no por el departamento de informática.
Semana 1: la declaración voluntaria, con amnistía
Lance un censo declarativo breve (5 minutos), anonimizado a nivel de equipo, con un mensaje claro de la dirección: el objetivo es equipar, no sancionar; no se reprochará ningún uso pasado. Tres preguntas bastan: qué herramientas, para qué tareas, con qué datos. La amnistía no es ingenuidad, es la condición de la sinceridad: un censo punitivo produce un mapa vacío y usos aún más ocultos.
Semana 2: la medición técnica
Cruce lo declarativo con los registros reales:
- Registros del proxy, del cortafuegos y del DNS: volúmenes de conexión hacia los dominios de los principales servicios de IA (chatgpt.com, claude.ai, gemini.google.com, perplexity.ai, mistral.ai y similares).
- Consola SaaS y herramientas de descubrimiento (CASB, informes de Microsoft 365 y Google Workspace): aplicaciones de terceros conectadas a las cuentas, extensiones de navegador instaladas.
- Funciones de IA integradas en los SaaS ya bajo contrato (CRM, soporte, videoconferencia, suites ofimáticas): a menudo activadas por defecto, forman parte del mapa.
La medición permanece agregada: se trata de cartografiar usos, no de vigilar individuos (véase la FAQ sobre el marco legal).
Semana 3: calificar cada uso
Clasifique cada pareja herramienta x uso sobre dos ejes:
- El nivel de riesgo reglamentario: práctica prohibida (artículo 5: detener inmediatamente), futuro alto riesgo (anexo III: RRHH, crédito, educación: enmarcar prioritariamente), transparencia (artículo 50: contenidos y agentes expuestos al público), riesgo mínimo.
- La sensibilidad de los datos expuestos: datos personales, datos sensibles, secretos comerciales, datos de clientes bajo cláusula de confidencialidad, datos públicos.
Determine también el papel de la empresa para cada sistema: simple responsable del despliegue, o proveedor de hecho si una herramienta ha sido modificada sustancialmente o rebautizada (la recalificación es la trampa clásica).
Semana 4: decidir, equipar, enmarcar
- Lista de herramientas validadas por caso de uso, con las versiones empresariales bajo acuerdo de encargado del tratamiento: la mejor arma contra el shadow AI es una alternativa oficial tan práctica como la herramienta oculta.
- Política de uso de la IA breve y aplicable (véase la carta en 8 puntos), integrada en la carta informática.
- Formación artículo 4 planificada y documentada para todos los usuarios identificados, con módulo reforzado para los usos sensibles.
- Bloqueos específicos reservados a los casos indefendibles (herramientas sin ninguna garantía, prácticas prohibidas), explicados y acompañados de una alternativa.
- Gobernanza continua: un referente de IA, una revisión trimestral del mapa, un canal sencillo para solicitar la validación de una nueva herramienta en menos de una semana: si el circuito oficial es lento, el shadow AI vuelve.
Los indicadores que demuestran que está bajo control
- Proporción de usos de IA cubiertos por una herramienta validada (objetivo: más del 80% a 6 meses).
- Número de herramientas validadas en el catálogo y plazo medio de validación de una solicitud.
- Tasa de empleados formados (artículo 4) y fecha de la última actualización del mapa.
- Incidentes relacionados con la IA declarados y tratados (una cifra que aumenta al principio es buena señal: por fin se ve).
Pase a la acción
Gestione su cumplimiento con Data Comply One: software todo en uno y expertos DPO/CISO externalizados.
Descubrir el software AI Act →Evaluar mi cumplimiento de IA →Fuentes
- Reglamento (UE) 2024/1689 (AI Act), artículos 3, 4, 5, 25, 26 y 50, EUR-Lex.
- Reglamento (UE) 2016/679 (RGPD), artículos 5, 6, 13 y 35, EUR-Lex.
- La autoridad francesa de protección de datos (CNIL), recomendaciones sobre herramientas de vigilancia en el trabajo y sobre sistemas de IA; código del trabajo, artículo L.2312-8.