AI Act et sécurité d’un agent IA : ce qui change

L’AI Act s’applique-t-il à mon agent IA ?

Cela dépend de l’usage de l’agent ; la technologie employée n’entre pas en compte. Le règlement classe les systèmes selon leur usage : pratiques interdites, haut risque, obligations de transparence, et le reste. Un agent est concerné par les exigences de l’article 15 seulement s’il est un système d’IA à haut risque.

Il l’est dans deux cas. D’une part, s’il relève de l’annexe III, qui regroupe huit domaines : biométrie, infrastructures critiques, éducation et formation, emploi, services essentiels (aides publiques, évaluation de solvabilité, tarification d’assurances vie et santé, tri des appels d’urgence), répression, migration et frontières, justice et processus démocratiques. D’autre part, s’il est un composant de sécurité d’un produit couvert par la législation de l’annexe I soumis à une évaluation de conformité par un tiers.

L’article 6(3) prévoit une exception pour certains systèmes de l’annexe III qui ne présentent pas de risque important, par exemple pour une tâche procédurale étroite ou un travail préparatoire, mais l’exception ne joue jamais si le système fait du profilage de personnes physiques. Un fournisseur qui estime son système non à haut risque doit documenter son évaluation avant la mise sur le marché. Un agent qui trie des candidatures relève de l’emploi ; un agent qui répond à des questions de support client n’est a priori pas dans l’annexe III, ce que seule une analyse de votre cas peut confirmer.

Que dit l’article 15 sur la robustesse et la cybersécurité ?

Il impose aux systèmes à haut risque un niveau approprié d’exactitude, de robustesse et de cybersécurité, constant tout au long de leur cycle de vie. Le texte comporte plusieurs exigences utiles à un agent.

• Résilience aux erreurs et incohérences (art. 15(4)) : le système doit être aussi résilient que possible face aux erreurs, défaillances ou incohérences, notamment dans l’interaction avec des personnes ou d’autres systèmes, avec des mesures techniques et organisationnelles. Les systèmes qui continuent d’apprendre doivent traiter le risque de boucles de rétroaction.
• Résilience face aux tiers non autorisés (art. 15(5)) : le système doit résister aux tentatives de tiers non autorisés visant à modifier son usage, ses sorties ou ses performances en exploitant ses vulnérabilités.
• Vulnérabilités propres à l’IA (art. 15(5)) : les mesures doivent inclure, selon le cas, la prévention, la détection, la réponse, la résolution et la maîtrise des attaques par manipulation du jeu d’entraînement (empoisonnement de données), des composants préentraînés (empoisonnement de modèle), des entrées conçues pour provoquer une erreur (exemples contradictoires, évasion de modèle), ainsi que des attaques de confidentialité et des défauts du modèle.

Le texte ne nomme pas l’injection de prompt. À notre lecture, l’exigence de résister à des tiers qui altèrent les sorties en exploitant des vulnérabilités couvre ce type d’attaque, mais l’interprétation précise relève de la doctrine, des normes harmonisées et des autorités.

Quels autres articles comptent pour la sécurité d’un agent ?

Trois autres articles se lisent avec le 15.

Retenez la dernière ligne : si vous intégrez un modèle d’un grand fournisseur dans votre agent, les obligations de l’article 55 pèsent sur lui. Cela ne dit rien de la sécurité de votre agent, c’est-à-dire de la manière dont vos outils, vos données et vos autorisations sont branchés.

Quel est le calendrier d’application aujourd’hui ?

Le règlement (UE) 2024/1689 prévoit une application générale au 2 août 2026, avec des dates échelonnées. Le règlement (UE) 2026/1744, dit « omnibus numérique sur l’IA », signé le 8 juillet 2026 et publié au Journal officiel le 24 juillet 2026 selon le suivi législatif du Parlement européen, a repoussé les obligations des systèmes à haut risque.

Les dates proviennent du texte consolidé de l’article 113 publié par le service d’assistance de la Commission européenne sur l’AI Act et du suivi législatif du Parlement européen. Le texte officiel du Journal officiel sur EUR-Lex fait foi, vérifiez-le avant toute décision.

Qu’est-ce qui s’applique déjà à un agent qui interagit avec le public ?

L’article 50(1) : les fournisseurs doivent concevoir les systèmes d’IA destinés à interagir directement avec des personnes de façon à les informer qu’elles ont affaire à une IA, sauf si cela est évident pour une personne raisonnablement informée au vu du contexte. D’après l’AI Act Service Desk de la Commission, cette obligation du paragraphe 1 ne pèse pas sur les déployeurs. Cette règle s’applique à un chatbot, quel que soit son niveau de risque.

Quelles sanctions sont prévues ?

Pour le non-respect des obligations des fournisseurs, représentants, importateurs, distributeurs, déployeurs et organismes notifiés, ou des obligations de transparence de l’article 50, le plafond est de 15 millions d’euros ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé s’appliquant. Pour les pratiques interdites, le plafond monte à 35 millions d’euros ou 7 %. Pour les PME et les start-up, le plafond est le plus faible des deux montants.

Comment préparer la sécurité d’un agent sans attendre 2027 ?

En traitant l’article 15 comme un cahier des charges de test. Même si votre agent n’est pas à haut risque, ces exigences décrivent une base raisonnable.

1. Qualifier l’usage : l’agent touche-t-il un domaine de l’annexe III ? Documentez la réponse.
2. Cartographier les surfaces : entrées non fiables, outils, mémoire, secrets, identités.
3. Tester l’injection de prompt, l’abus d’outils, la fuite de données et l’empoisonnement de la mémoire ou du RAG, avec des critères de réussite définis à l’avance, comme le demande l’article 9.
4. Prévoir la supervision humaine pour les actions irréversibles (validation humaine).
5. Journaliser pour pouvoir enquêter.
6. Conserver les preuves des tests et des corrections, sans données personnelles inutiles. Un registre daté de ce qui a été testé, trouvé et corrigé est le type de matériau sur lequel s’appuierait un système de gestion des risques au sens de l’article 9, quelle que soit votre classification finale.

Quel rôle peut jouer CleanIssue ?

Un red team d’agent produit des constats techniques et reproductibles. Il ne vaut ni certification ni avis juridique. Dans le Red Team Agent Express, nous testons un agent pendant 5 jours sur votre environnement de développement ou de recette, avec démarrage sous 48 h après signature du devis et de l’autorisation ; le rapport suit le format de l’exemple de rapport. Pour plusieurs agents ou une pratique en marque blanche, le Red Team sur mesure se chiffre sur devis. La page sécurité des agents IA donne le cadre technique, et la méthode détaille la démarche.

Le premier échange est un rendez-vous découverte de 30 minutes, gratuit.