Santé & AI Act : encadrer l’IA médicale

De quoi parle AI Act ?

L’AI Act qualifie de haut risque les systèmes d’IA constituant un dispositif médical ou un composant de sécurité d’un tel dispositif, ainsi que ceux dont l’usage figure à l’annexe III. Les obligations couvrent la gestion des risques, la qualité des données, la transparence, la supervision humaine et la robustesse.

Ce régime s’articule avec la réglementation sur les dispositifs médicaux, qui impose sa propre évaluation de conformité.

Le secteur « Santé » est-il concerné ?

Fournisseurs et déployeurs d’IA médicale sont concernés. Le statut de haut risque impose des obligations lourdes dès lors que l’IA contribue à une décision affectant la santé d’une personne (diagnostic, orientation, priorisation).

Une IA purement administrative (planification, facturation) peut relever du risque limité ; c’est l’usage clinique qui fait basculer en haut risque.

Obligations détaillées

Sanctions & risques

Jusqu’à 35 M€ ou 7 % du CA pour les pratiques interdites et 15 M€ ou 3 % pour les manquements aux obligations du haut risque, en sus des sanctions sectorielles applicables aux dispositifs médicaux.

Un défaut de qualification ou de supervision sur une IA clinique expose à la sanction et au retrait du système.

Calendrier d’application

• 1Entrée en vigueur. 1er août 2024.
• 2Systèmes à haut risque. Obligations principales à partir du 2 août 2026, avec des échéances propres pour certains systèmes intégrés à des produits réglementés.

Erreurs fréquentes dans le secteur

• 1Classement sous-estimé. Traiter une IA clinique comme un simple outil de risque limité.
• 2Cadres traités séparément. Gérer l’AI Act et les dispositifs médicaux en silos.
• 3Données non maîtrisées. Utiliser des données d’entraînement non représentatives ou mal documentées.
• 4Supervision de façade. Afficher une supervision humaine sans moyens réels de contester la sortie.

Cas pratique

Un éditeur propose un logiciel d’aide à la lecture d’imagerie. En tant que dispositif médical à base d’IA, il relève du haut risque : l’éditeur doit documenter la qualité de ses données d’entraînement, prévoir une supervision par le praticien et aligner son évaluation de conformité AI Act avec celle du dispositif médical, plutôt que de conduire deux démarches indépendantes.

Feuille de route de mise en conformité

1. 1

   Inventorier. Recenser les systèmes d’IA cliniques et administratifs.

2. 2

   Qualifier. Déterminer le niveau de risque et le statut de chacun.

3. 3

   Aligner les cadres. Articuler documentation AI Act et dispositifs médicaux.

4. 4

   Encadrer l’usage. Mettre en place supervision humaine et traçabilité.

5. 5

   Surveiller. Organiser la surveillance post-market.

Questions fréquentes