Médico-social — AI Act : encadrer l’IA d’accompagnement

De quoi parle AI Act ?

Comme dans le secteur public, l’IA évaluant l’éligibilité à des prestations sociales essentielles peut être classée à haut risque. Les usages de planification ou d’aide administrative relèvent généralement du risque limité.

La vulnérabilité des publics rend la maîtrise des biais et la supervision humaine particulièrement critiques.

Le secteur « Médico-social » est-il concerné ?

Les structures déployant de l’IA d’évaluation sont déployeurs ; l’éditeur est fournisseur. Certains déployeurs doivent réaliser une FRIA.

Les usages purement organisationnels relèvent de régimes plus légers, tout en restant soumis au RGPD.

Obligations détaillées

Sanctions & risques

Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour le haut risque, en sus du risque RGPD. Une IA d’accès biaisée touche des personnes vulnérables.

Calendrier d’application

• 1Entrée en vigueur. 1er août 2024.
• 2Haut risque. À partir du 2 août 2026 pour l’accès aux prestations.

Erreurs fréquentes dans le secteur

• 1Haut risque nié. Traiter une IA d’accès comme un outil administratif.
• 2FRIA omise. Ne pas analyser l’impact sur les droits.
• 3Biais non maîtrisés. Discriminer des publics vulnérables.
• 4Supervision de façade. Valider mécaniquement les décisions.

Cas pratique

Une structure teste une IA de pré-évaluation de l’éligibilité à une aide. Usage potentiellement à haut risque, elle réalise une FRIA, prévoit une supervision humaine renforcée et contrôle les biais, en articulation avec l’AIPD.

Feuille de route de mise en conformité

1. 1

   Inventorier. Recenser les usages d’IA.

2. 2

   Qualifier. Isoler le haut risque.

3. 3

   FRIA/AIPD. Réaliser les analyses.

4. 4

   Encadrer. Supervision et maîtrise des biais.

5. 5

   Surveiller. Post-market et réévaluation.

Questions fréquentes