Collectivité — AI Act : encadrer l’IA des services locaux

De quoi parle AI Act ?

L’AI Act classe à haut risque l’IA évaluant l’éligibilité aux prestations et services publics essentiels. Les usages locaux de relation usager ou d’information relèvent généralement du risque limité.

Certains déployeurs publics doivent réaliser une FRIA pour les systèmes à haut risque.

Le secteur « Collectivité » est-il concerné ?

Les collectivités déployant de l’IA d’accès aux prestations sont concernées comme déployeurs. Les chatbots d’information relèvent du risque limité.

Le développement d’un système sous la marque de la collectivité la placerait en fournisseur.

Obligations détaillées

Sanctions & risques

Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour le haut risque. Une IA locale d’octroi biaisée touche directement les usagers.

Calendrier d’application

• 1Entrée en vigueur. 1er août 2024.
• 2Haut risque. À partir du 2 août 2026 pour l’accès aux prestations.

Erreurs fréquentes dans le secteur

• 1Haut risque non identifié. Traiter une IA d’octroi comme un simple chatbot.
• 2FRIA omise. Ne pas analyser l’impact sur les droits.
• 3Transparence absente. Ne pas informer les usagers.
• 4Biais non maîtrisés. Créer une discrimination locale.

Cas pratique

Une intercommunalité déploie une IA de pré-instruction d’aides sociales. Usage à haut risque, elle réalise une FRIA, prévoit une supervision humaine des refus et informe les usagers, en mutualisant l’expertise avec d’autres collectivités.

Feuille de route de mise en conformité

1. 1

   Inventorier. Recenser les usages d’IA locaux.

2. 2

   Qualifier. Isoler le haut risque.

3. 3

   FRIA. Réaliser l’analyse pour le haut risque.

4. 4

   Encadrer. Supervision, transparence, biais.

5. 5

   Mutualiser. Partager les ressources entre collectivités.

Questions fréquentes