Shadow AI: ¿cómo cartografiar los usos reales de la IA en 30 días?

Shadow AI: ¿cómo cartografiar los usos reales de la IA en 30 días?

Por qué el shadow AI es el primer riesgo de IA de la empresa

El inventario de los sistemas de IA es el punto de partida de todas las obligaciones del AI Act: imposible formar a los usuarios (artículo 4), descartar las prácticas prohibidas (artículo 5), garantizar la transparencia (artículo 50) o preparar el régimen de alto riesgo sobre usos que se ignoran. En cuanto al RGPD, cada prompt que contiene datos personales es un tratamiento no documentado; en cuanto al secreto empresarial, cada introducción de información confidencial en una herramienta de uso general fragiliza la protección jurídica (véase el artículo ChatGPT en empresa). Y la experiencia muestra que la brecha entre usos declarados y usos reales es masiva: la IA ha entrado por los individuos, no por el departamento de informática.

Semana 1: la declaración voluntaria, con amnistía

Lance un censo declarativo breve (5 minutos), anonimizado a nivel de equipo, con un mensaje claro de la dirección: el objetivo es equipar, no sancionar; no se reprochará ningún uso pasado. Tres preguntas bastan: qué herramientas, para qué tareas, con qué datos. La amnistía no es ingenuidad, es la condición de la sinceridad: un censo punitivo produce un mapa vacío y usos aún más ocultos.

Semana 2: la medición técnica

Cruce lo declarativo con los registros reales:

  • Registros del proxy, del cortafuegos y del DNS: volúmenes de conexión hacia los dominios de los principales servicios de IA (chatgpt.com, claude.ai, gemini.google.com, perplexity.ai, mistral.ai y similares).
  • Consola SaaS y herramientas de descubrimiento (CASB, informes de Microsoft 365 y Google Workspace): aplicaciones de terceros conectadas a las cuentas, extensiones de navegador instaladas.
  • Funciones de IA integradas en los SaaS ya bajo contrato (CRM, soporte, videoconferencia, suites ofimáticas): a menudo activadas por defecto, forman parte del mapa.

La medición permanece agregada: se trata de cartografiar usos, no de vigilar individuos (véase la FAQ sobre el marco legal).

Semana 3: calificar cada uso

Clasifique cada pareja herramienta x uso sobre dos ejes:

  1. El nivel de riesgo reglamentario: práctica prohibida (artículo 5: detener inmediatamente), futuro alto riesgo (anexo III: RRHH, crédito, educación: enmarcar prioritariamente), transparencia (artículo 50: contenidos y agentes expuestos al público), riesgo mínimo.
  2. La sensibilidad de los datos expuestos: datos personales, datos sensibles, secretos comerciales, datos de clientes bajo cláusula de confidencialidad, datos públicos.

Determine también el papel de la empresa para cada sistema: simple responsable del despliegue, o proveedor de hecho si una herramienta ha sido modificada sustancialmente o rebautizada (la recalificación es la trampa clásica).

Semana 4: decidir, equipar, enmarcar

  1. Lista de herramientas validadas por caso de uso, con las versiones empresariales bajo acuerdo de encargado del tratamiento: la mejor arma contra el shadow AI es una alternativa oficial tan práctica como la herramienta oculta.
  2. Política de uso de la IA breve y aplicable (véase la carta en 8 puntos), integrada en la carta informática.
  3. Formación artículo 4 planificada y documentada para todos los usuarios identificados, con módulo reforzado para los usos sensibles.
  4. Bloqueos específicos reservados a los casos indefendibles (herramientas sin ninguna garantía, prácticas prohibidas), explicados y acompañados de una alternativa.
  5. Gobernanza continua: un referente de IA, una revisión trimestral del mapa, un canal sencillo para solicitar la validación de una nueva herramienta en menos de una semana: si el circuito oficial es lento, el shadow AI vuelve.

Los indicadores que demuestran que está bajo control

  • Proporción de usos de IA cubiertos por una herramienta validada (objetivo: más del 80% a 6 meses).
  • Número de herramientas validadas en el catálogo y plazo medio de validación de una solicitud.
  • Tasa de empleados formados (artículo 4) y fecha de la última actualización del mapa.
  • Incidentes relacionados con la IA declarados y tratados (una cifra que aumenta al principio es buena señal: por fin se ve).

Pase a la acción

Gestione su cumplimiento con Data Comply One: software todo en uno y expertos DPO/CISO externalizados.

Descubrir el software AI Act →Evaluar mi cumplimiento de IA →

Fuentes

  • Reglamento (UE) 2024/1689 (AI Act), artículos 3, 4, 5, 25, 26 y 50, EUR-Lex.
  • Reglamento (UE) 2016/679 (RGPD), artículos 5, 6, 13 y 35, EUR-Lex.
  • La autoridad francesa de protección de datos (CNIL), recomendaciones sobre herramientas de vigilancia en el trabajo y sobre sistemas de IA; código del trabajo, artículo L.2312-8.

Preguntas frecuentes

¿No sería más sencillo prohibir pura y simplemente la IA?

Es la estrategia que fracasa más rápido: los usos pasan a los teléfonos personales y la empresa pierde tanto la visibilidad como el beneficio de productividad. El marco con alternativas validadas es más seguro que la prohibición sin alternativa.

¿Se puede analizar los registros de conexión de los empleados?

Sí, siempre que se respete el RGPD y el derecho laboral: finalidad legítima y declarada (seguridad, cartografía de los usos), análisis proporcionado y agregado, información previa a los empleados, y consulta al comité de empresa si el dispositivo constituye un control de la actividad.

¿Qué hacer con los usos descubiertos que constituyen prácticas prohibidas?

Cese inmediato, documentación del descubrimiento y de la remediación, y análisis de la exposición pasada. Las prácticas del artículo 5 (puntuación social, reconocimiento de emociones en el trabajo salvo casos previstos...) son sancionadas con el tope más elevado del AI Act.

¿Hay que declarar los usos censados a una autoridad?

No para una empresa responsable del despliegue en 2026: el inventario es una herramienta interna de cumplimiento. Se convertirá en la base de las obligaciones de alto riesgo de diciembre de 2027 para los usos del anexo III.

¿Con qué frecuencia repetir el ejercicio?

El mapa se mantiene de manera continua a través del canal de validación; una revisión trimestral y una nueva encuesta anual son suficientes después. El primer inventario es el más costoso, los siguientes son actualizaciones.