Secteur public — AI Act : l’IA d’accès aux services

De quoi parle AI Act ?

L’annexe III de l’AI Act vise les systèmes d’IA destinés à évaluer l’éligibilité aux prestations et services publics essentiels et à les octroyer, réduire ou retirer, ainsi que plusieurs usages régaliens. Ces systèmes supportent les obligations du haut risque.

Certains déployeurs, dont des organismes publics, doivent en outre réaliser une analyse d’impact sur les droits fondamentaux (FRIA).

Le secteur « Secteur public » est-il concerné ?

Les administrations déployant de l’IA d’instruction ou d’octroi de prestations sont concernées, comme déployeurs, et comme fournisseurs si elles développent le système.

Les usages informationnels ou internes relèvent de régimes plus légers.

Obligations détaillées

Sanctions & risques

Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour les manquements du haut risque. Une IA d’octroi biaisée peut créer une discrimination systémique.

Calendrier d’application

• 1Entrée en vigueur. 1er août 2024.
• 2Haut risque. À partir du 2 août 2026 pour les services publics essentiels.

Erreurs fréquentes dans le secteur

• 1Haut risque non identifié. Traiter une IA d’octroi comme un outil interne.
• 2FRIA omise. Ne pas analyser l’impact sur les droits.
• 3Biais non maîtrisés. Créer une discrimination systémique.
• 4Supervision de façade. Contrôle humain sans moyens réels.

Cas pratique

Une administration automatise le pré-calcul d’une aide sociale. Système à haut risque, il impose FRIA, supervision humaine des refus, transparence envers les usagers et contrôle des biais, articulés avec l’AIPD du RGPD.

Feuille de route de mise en conformité

1. 1

   Inventorier. Recenser les IA d’instruction et d’octroi.

2. 2

   Qualifier. Isoler le haut risque.

3. 3

   FRIA/AIPD. Réaliser les analyses d’impact.

4. 4

   Encadrer. Supervision, transparence, maîtrise des biais.

5. 5

   Surveiller. Post-market et réévaluation.

Questions fréquentes