Documentación técnica Anexo IV del AI Act: el checklist para editores SaaS

1. Descripción general del sistema

• La finalidad prevista del sistema y la identidad del proveedor.
• Las versiones y su historial de actualizaciones.
• La manera en que el sistema interactúa con hardware o software de terceros.
• Las formas en las que el sistema se comercializa (API, integración, aplicación).

2. Diseño y desarrollo

• Las decisiones de diseño, incluida la lógica general del sistema y de los algoritmos.
• La arquitectura y los recursos informáticos utilizados.
• En su caso, los modelos preentrenados o de terceros utilizados (ej. API de un LLM) y la manera en que se integran.
• Las especificaciones de los datos de entrada.

3. Datos de entrenamiento, validación y prueba

• La procedencia y la naturaleza de los conjuntos de datos.
• Los métodos de recogida, etiquetado y limpieza.
• El examen de los sesgos potenciales y las medidas de mitigación.
• Los criterios de representatividad y pertinencia de los datos.

4. Rendimiento, robustez y ciberseguridad

• Las métricas de precisión y los resultados de las pruebas.
• Las limitaciones conocidas del sistema y las circunstancias que afectan a su rendimiento.
• Las medidas de robustez frente a errores y tentativas de manipulación.
• Las medidas de ciberseguridad.

5. Gestión de riesgos y supervisión humana

• La descripción del sistema de gestión de riesgos implantado.
• Las medidas de supervisión humana integradas en el diseño (interfaz, puntos de control).
• Las instrucciones de uso proporcionadas al desplegador (art. 13).

6. Vigilancia posterior a la comercialización

• El plan de vigilancia poscomercialización: recogida y análisis de los incidentes y comentarios de uso.
• Los procedimientos de notificación de incidentes graves.
• El proceso de actualización de la documentación a medida que el sistema evoluciona.

Recordar: la documentación Anexo IV no es un documento estático. Es un expediente vivo, actualizado con cada evolución significativa. Debe ser accesible para los clientes desplegadores bajo petición y para las autoridades. Constituirla con antelación en lugar de bajo la urgencia de una inspección es un factor de serenidad — y de credibilidad comercial. Ver ¿soy proveedor?.