Le cours AI Act, en 6 modules.

Module 1 · ~25 min

Comprendre l'AI Act : genèse et champ d'application

Pourquoi ce règlement ?

Proposé par la Commission européenne en avril 2021, adopté en juin 2024 et publié au Journal officiel de l'UE le 12 juillet 2024, le règlement (UE) 2024/1689 - l'AI Act - est entré en vigueur le 1^er août 2024. Son objectif : garantir que les systèmes d'IA mis sur le marché européen soient sûrs et respectueux des droits fondamentaux, tout en soutenant l'innovation (bacs à sable réglementaires, mesures PME). C'est un règlement : il s'applique directement dans tous les États membres, sans transposition nationale.

Qu'est-ce qu'un « système d'IA » ?

L'article 3 reprend la définition de l'OCDE : un système automatisé conçu pour fonctionner avec des niveaux d'autonomie variables, capable d'adaptation, et qui déduit à partir d'entrées comment générer des prédictions, contenus, recommandations ou décisions influençant des environnements physiques ou virtuels. Le mot-clé est déduire (« infer ») : un simple logiciel à règles fixes n'est pas un système d'IA au sens du règlement.

Les acteurs de la chaîne de valeur

Attention au changement de rôle (art. 25) : un déployeur qui appose sa marque sur un système à haut risque, le modifie substantiellement ou détourne sa destination devient fournisseur, avec toutes les obligations associées.

Portée extraterritoriale

Comme le RGPD, l'AI Act s'applique au-delà des frontières de l'UE : il vise les fournisseurs qui mettent des systèmes sur le marché de l'Union où qu'ils soient établis, et les fournisseurs et déployeurs de pays tiers dès lors que les sorties du système sont utilisées dans l'UE.

Ce qui échappe au règlement

• Usages exclusivement militaires, de défense ou de sécurité nationale ;
• Recherche et développement scientifiques avant mise sur le marché ;
• Usage personnel non professionnel ;
• Modèles publiés en open source - sauf s'ils sont à haut risque, interdits, soumis à transparence, ou GPAI à risque systémique.

Module 2 · ~30 min

Pratiques interdites et classification des risques

Les 4 niveaux de risque

Toute la mécanique du règlement repose sur la classification de l'usage (pas de la technologie) :

1. Risque inacceptable → pratique interdite (art. 5) ;
2. Haut risque → exigences strictes et évaluation de conformité (chap. III, annexes I & III) ;
3. Risque de transparence → obligation d'information (art. 50) ;
4. Risque minimal → aucune obligation spécifique, codes de conduite volontaires.

Les pratiques interdites (art. 5) - applicables depuis février 2025

• Techniques subliminales ou manipulatrices qui altèrent substantiellement le comportement et causent un préjudice significatif ;
• Exploitation des vulnérabilités (âge, handicap, situation sociale ou économique) ;
• Notation sociale conduisant à un traitement défavorable injustifié ou disproportionné ;
• Police prédictive individuelle fondée uniquement sur le profilage ou l'évaluation de traits de personnalité ;
• Moissonnage non ciblé d'images faciales (internet, vidéosurveillance) pour créer des bases de reconnaissance faciale ;
• Reconnaissance des émotions au travail et dans l'enseignement (sauf raisons médicales ou de sécurité) ;
• Catégorisation biométrique pour déduire des attributs sensibles (opinions, orientation sexuelle, race…) ;
• Identification biométrique à distance en temps réel dans l'espace public à des fins répressives - sauf exceptions strictement encadrées (victimes, menace imminente, crimes graves) avec autorisation préalable.

Le haut risque : deux portes d'entrée

Annexe I - le système est un produit (ou un composant de sécurité d'un produit) déjà couvert par la législation d'harmonisation de l'UE : dispositifs médicaux, machines, jouets, ascenseurs, aviation, automobile…

Annexe III - le système relève d'un des 8 domaines sensibles :

1. Biométrie (identification à distance, catégorisation, reconnaissance des émotions non interdites) ;
2. Infrastructures critiques (énergie, eau, trafic…) ;
3. Éducation et formation (admission, évaluation, surveillance d'examens) ;
4. Emploi et RH (recrutement, tri de CV, promotion, licenciement, attribution des tâches) ;
5. Services essentiels privés et publics (scoring de crédit, tarification vie/santé, prestations sociales, appels d'urgence) ;
6. Répression (law enforcement) ;
7. Migration, asile, contrôle aux frontières ;
8. Justice et processus démocratiques.

Pour appliquer cette classification en pratique - schéma de décision, questions fermées et fiche modèle à télécharger - utilisez la page dédiée : classifier un système d'IA.

Le filtre de l'art. 6(3) : un système de l'annexe III échappe au haut risque s'il n'exerce qu'une tâche procédurale étroite, améliore un résultat humain préalable, ou détecte des schémas sans remplacer l'évaluation humaine - mais il faut documenter cette analyse et enregistrer le système. Un système qui profile des personnes physiques reste toujours à haut risque.

Module 3 · ~35 min

Systèmes à haut risque : les 7 exigences

Le chapitre III, section 2 impose sept familles d'exigences aux systèmes à haut risque. Elles incombent d'abord au fournisseur, qui doit les démontrer avant la mise sur le marché :

Le parcours de conformité du fournisseur

1. Mettre en place un système de gestion de la qualité (art. 17) ;
2. Conduire l'évaluation de conformité (art. 43) - auto-évaluation sur la base des normes harmonisées dans la plupart des cas de l'annexe III, ou intervention d'un organisme notifié (notamment biométrie et produits annexe I) ;
3. Établir la déclaration UE de conformité (art. 47) et apposer le marquage CE (art. 48) ;
4. Enregistrer le système dans la base de données européenne (art. 49) ;
5. Assurer la surveillance post-commercialisation (art. 72) et le signalement des incidents graves (art. 73) - au plus tard 15 jours après connaissance, délais raccourcis pour les cas les plus graves.

Module 4 · ~30 min

Obligations des acteurs et transparence

Vous êtes déployeur ? Vos obligations (art. 26)

• Utiliser le système conformément à la notice du fournisseur ;
• Confier la supervision humaine à des personnes compétentes, formées et dotées de l'autorité nécessaire ;
• S'assurer de la pertinence des données d'entrée que vous contrôlez ;
• Surveiller le fonctionnement, suspendre l'usage et alerter le fournisseur et l'autorité en cas de risque ;
• Conserver les journaux générés automatiquement au moins 6 mois ;
• Informer les salariés et leurs représentants avant de déployer un système à haut risque au travail ;
• Informer les personnes concernées par des décisions prises ou éclairées par le système ; les personnes disposent d'un droit à l'explication des décisions individuelles (art. 86).

La FRIA (art. 27)

Avant le premier usage d'un système à haut risque de l'annexe III, une analyse d'impact sur les droits fondamentaux est exigée des déployeurs qui sont des organismes de droit public ou des opérateurs privés de services publics, ainsi que pour le scoring de crédit et la tarification vie/santé : processus d'usage, catégories de personnes affectées, risques d'atteinte, mesures de supervision et de recours. La FRIA complète l'AIPD du RGPD, elle ne la remplace pas.

La transparence pour tous (art. 50)

Module 5 · ~20 min

Modèles à usage général (GPAI)

Modèle ≠ système

Un modèle d'IA à usage général (GPT, Claude, Llama, Mistral…) présente une généralité significative et s'intègre dans une variété de systèmes en aval. Le chapitre V lui applique un régime propre, applicable depuis le 2 août 2025. Le système construit sur ce modèle (votre chatbot, votre copilote métier) reste soumis à la classification par les risques des modules 2 à 4.

Obligations de tous les fournisseurs de GPAI (art. 53)

• Documentation technique du modèle (entraînement, tests, évaluations) ;
• Informations et documentation aux fournisseurs en aval qui intègrent le modèle ;
• Politique de respect du droit d'auteur européen (dont l'opt-out du text & data mining) ;
• Résumé suffisamment détaillé des contenus d'entraînement, selon le modèle publié par l'AI Office.

Les modèles open source (poids et architecture publiés) sont exemptés de documentation - mais pas de la politique droit d'auteur ni du résumé d'entraînement, et jamais s'ils sont à risque systémique.

Risque systémique (art. 51 et 55)

Un GPAI est présumé à risque systémique lorsque le calcul cumulé d'entraînement dépasse 10²⁵ FLOPs, ou sur désignation de la Commission. S'ajoutent alors : évaluations de modèle standardisées, tests adversariaux (red teaming), évaluation et atténuation des risques systémiques, signalement des incidents graves à l'AI Office, cybersécurité renforcée. Le code de bonnes pratiques GPAI publié en 2025 offre un moyen de présomption de conformité en attendant les normes harmonisées.

Module 6 · ~25 min

Gouvernance, sanctions et articulation réglementaire

Qui contrôle quoi ?

• AI Office (Commission européenne) : supervise les GPAI, élabore codes de bonnes pratiques et lignes directrices ;
• Comité européen de l'IA (AI Board) : coordonne les États membres ;
• Autorités nationales : surveillance du marché et autorités notifiantes dans chaque État membre - en France, un schéma multi-autorités coordonné se dessine (CNIL, DGCCRF, Arcom… selon les usages) ;
• Bacs à sable réglementaires (art. 57) : au moins un par État membre pour tester l'innovation sous supervision, d'ici août 2026.

Et en interne : qui fait quoi ?

La gouvernance externe a son miroir interne : sponsor exécutif, comité de gouvernance IA, référent AI Act, DPO/juridique, RSSI, équipe Data & IA, propriétaires métier, achats, RH et audit interne. Les missions, compétences requises et cadences de chaque instance sont détaillées dans l'organisation cible de la démarche d'implémentation, et l'auto-évaluation vous recommande la configuration adaptée à votre taille et votre maturité.

Les sanctions (art. 99)

Le montant retenu est le plus élevé des deux (le plus bas pour les PME et start-up). À quoi s'ajoutent rappels de produits, retraits du marché et dommage réputationnel.

L'AI Act ne vit pas seul