Secteur financier — AI Act : les usages à haut risque

De quoi parle AI Act ?

L’annexe III de l’AI Act classe à haut risque l’évaluation de la solvabilité et le scoring de crédit des personnes physiques (hors détection de fraude), ainsi que l’évaluation des risques et la tarification en assurance vie et santé. Les obligations du haut risque s’appliquent.

Les usages internes ou conversationnels relèvent de régimes plus légers.

Le secteur « Secteur financier » est-il concerné ?

Les entités financières utilisant ces systèmes sont concernées comme déployeurs, et comme fournisseurs si elles développent leurs propres modèles sous leur marque.

La détection de fraude, bien que reposant sur l’IA, échappe au classement haut risque prévu ici, mais reste soumise au RGPD.

Obligations détaillées

Sanctions & risques

Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour les manquements du haut risque, en sus du risque RGPD.

Calendrier d’application

• 1Entrée en vigueur. 1er août 2024.
• 2Haut risque. À partir du 2 août 2026 (scoring, tarification).

Erreurs fréquentes dans le secteur

• 1Haut risque non identifié. Traiter scoring ou tarification comme des usages ordinaires.
• 2Biais non maîtrisés. Ignorer les biais, source de discrimination.
• 3Cumul RGPD oublié. Ne pas articuler AI Act et RGPD.
• 4Supervision de façade. Contrôle humain sans moyens réels.

Cas pratique

Un groupe financier cartographie ses usages d’IA et isole le scoring de crédit et la tarification santé comme usages à haut risque, déployant documentation, contrôle des biais et supervision, articulés avec l’information RGPD.

Feuille de route de mise en conformité

1. 1

   Inventorier. Recenser les usages d’IA du secteur.

2. 2

   Qualifier. Isoler les usages à haut risque.

3. 3

   Fiabiliser. Traiter qualité et biais des données.

4. 4

   Documenter. Produire documentation et évaluation.

5. 5

   Articuler. Coordonner avec le RGPD.

Questions fréquentes