En bref
- Réglementation : AI Act.
- L’EdTech est fournisseur ; l’établissement ou l’organisme est déployeur.
- Qualifier les systèmes.
- Maîtriser les biais.
- Assurer la supervision humaine.
- Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour le haut risque, en sus du risque RGPD.
Échéances réglementaires
Les dates clés de cette réglementation.
Août 2024
Entrée en vigueur
En vigueurFévrier 2025
Interdiction des pratiques prohibées
En vigueurAoût 2025
Modèles d'IA à usage général (GPAI) & gouvernance
En vigueurAoût 2026
Obligations des systèmes à haut risque (Annexe III)
En vigueurAoût 2027
Haut risque intégré aux produits (Annexe I)
À venirDe quoi parle AI Act ?
L’annexe III de l’AI Act vise l’IA destinée à l’admission ou l’affectation dans les établissements, à l’évaluation des résultats d’apprentissage, à l’orientation, et à la surveillance/détection des comportements interdits pendant les examens. Ces systèmes supportent les obligations du haut risque.
Les usages purement pédagogiques sans décision sur les personnes relèvent de régimes plus légers.
Le secteur « Éducation & formation » est-il concerné ?
L’EdTech est fournisseur ; l’établissement ou l’organisme est déployeur. Chacun porte des obligations propres.
Les tuteurs adaptatifs sans décision d’évaluation peuvent relever de régimes plus légers, tout en restant soumis au RGPD.
Obligations détaillées
Qualifier les systèmes
Isoler admission, évaluation, orientation et proctoring (haut risque).
Maîtriser les biais
Auditer données et résultats pour prévenir les discriminations.
Assurer la supervision humaine
Garantir une décision humaine effective (notamment sur les évaluations).
Assurer la transparence
Informer apprenants et familles de l’usage de l’IA.
Documenter (fournisseur)
Constituer la documentation technique et l’évaluation.
Sanctions & risques
Jusqu’à 35 M€ ou 7 % pour les pratiques interdites et 15 M€ ou 3 % pour le haut risque, en sus du risque RGPD. Une évaluation algorithmique injuste affecte durablement le parcours d’un apprenant.
Calendrier d’application
- 1Entrée en vigueur. 1er août 2024.
- 2Haut risque. À partir du 2 août 2026 pour l’IA éducative.
Erreurs fréquentes dans le secteur
- 1Haut risque nié. Traiter une correction automatisée comme un simple outil.
- 2Biais non testés. Ne pas auditer les résultats par profil.
- 3Proctoring non encadré. Surveiller les examens sans garanties.
- 4Transparence absente. Ne pas informer apprenants et familles.
Cas pratique
Un organisme déploie une surveillance d’examens à distance par IA. Usage à haut risque et intrusif, il exige une AIPD, une supervision humaine des alertes, une information des candidats et un audit des biais, l’éditeur fournissant la documentation de conformité.
Feuille de route de mise en conformité
- 1
Inventorier. Recenser les usages d’IA éducative.
- 2
Qualifier. Isoler le haut risque.
- 3
Auditer les biais. Contrôler données et résultats.
- 4
Encadrer. Supervision et transparence.
- 5
Documenter. Documentation et évaluation (fournisseur).
Questions fréquentes
Oui lorsqu’elle évalue les résultats d’apprentissage.
Passez à l'action sur AI Act
Diagnostic gratuit ou échange avec un expert dédié aux éducation & formation.
Ils nous font déjà confiance
Découvrez comment des organisations du secteur éducation & formation ont sécurisé leur conformité avec DCO.