Documentation technique Annexe IV de l'AI Act : la checklist pour éditeurs SaaS
·
Par 
Aymeric Guyard · 6 min de lecture
En bref
- L'Annexe IV impose aux fournisseurs de systèmes à haut risque une documentation technique détaillée, tenue à disposition des autorités. Elle couvre la description du système, la conception, les données d'entraînement, la performance, la gestion des risques et la surveillance après commercialisation. C'est un dossier vivant, pas un fichier figé.
1. Description générale du système
- La finalité prévue du système et l'identité du fournisseur.
- Les versions et leur historique de mise à jour.
- La manière dont le système interagit avec des matériels ou logiciels tiers.
- Les formes sous lesquelles le système est mis sur le marché (API, intégration, application).
2. Conception et développement
- Les choix de conception, y compris la logique générale du système et des algorithmes.
- L'architecture et les ressources de calcul utilisées.
- Le cas échéant, les modèles pré-entraînés ou tiers utilisés (ex. API d'un LLM) et la manière dont ils sont intégrés.
- Les spécifications des données d'entrée.
3. Données d'entraînement, de validation et de test
- La provenance et la nature des jeux de données.
- Les méthodes de collecte, d'étiquetage et de nettoyage.
- L'examen des biais potentiels et les mesures d'atténuation.
- Les critères de représentativité et de pertinence des données.
4. Performance, robustesse et cybersécurité
- Les métriques de précision et les résultats des tests.
- Les limites connues du système et les circonstances affectant sa performance.
- Les mesures de robustesse face aux erreurs et aux tentatives de manipulation.
- Les mesures de cybersécurité.
5. Gestion des risques et supervision humaine
- La description du système de gestion des risques mis en place.
- Les mesures de supervision humaine intégrées à la conception (interface, points de contrôle).
- Les instructions d'utilisation fournies au déployeur (art. 13).
6. Surveillance après commercialisation
- Le plan de surveillance post-marché : collecte et analyse des incidents et retours d'usage.
- Les procédures de signalement des incidents graves.
- Le processus de mise à jour de la documentation à mesure que le système évolue.
À retenir : la documentation Annexe IV n'est pas un document figé. C'est un dossier vivant, mis à jour à chaque évolution significative. Elle doit être accessible aux clients déployeurs sur demande et aux autorités. La constituer en amont plutôt que dans l'urgence d'un contrôle est un facteur de sérénité — et de crédibilité commerciale. Voir suis-je fournisseur ?.
Passez à l’action
Constituez votre documentation technique Annexe IV en amont : nos experts AI Act vous accompagnent avec Data Comply One.
Découvrir le logiciel AI Act →Tester ma conformité gratuitement