IA et audit de sécurité : forces, limites, rôle de l'humain

Que peut faire l'IA dans un audit de sécurité ?

Elle accélère les tâches répétitives dont le résultat se vérifie. Les outils d'analyse statique, d'analyse des dépendances et les assistants de rédaction utilisent aujourd'hui des modèles de langage, avec un vrai gain de temps quand un humain relit la sortie.

• Détection de motifs connus : injections, appels dangereux, secrets codés en dur, fonctions dépréciées.
• Analyse des dépendances : croisement des versions avec les bases de vulnérabilités et priorisation.
• Tri des alertes : regrouper les doublons et ordonner des centaines de résultats.
• Cartographie : inventaire rapide des endpoints, routes et configurations visibles.
• Rédaction : structurer le rapport et reformuler des recommandations.

Pourquoi un résultat produit par l'IA doit-il toujours être vérifié ?

Parce que les modèles produisent des résultats plausibles, parfois faux. Les assistants de correction eux-mêmes le disent : la documentation de GitHub sur Copilot Autofix mentionne des suggestions non déterministes, parfois partielles, qui peuvent changer le sens du code ou ne pas corriger entièrement la faille.

Côté génération de code, Veracode mesure qu'environ 45 % des tâches testées produisent un code qui échoue aux contrôles de sécurité. Un outil qui écrit du code non sûr peut aussi se tromper en le relisant. En audit, nous comptons donc un taux de faux positifs substantiel et nous rejouons chaque constat à la main avant de le rapporter.

Qu'est-ce que l'IA rate le plus souvent ?

Elle rate ce qui dépend de ce que l'application est censée permettre.

La logique métier

Un outil ne sait pas qu'un salarié ne doit pas voir la fiche d'un collègue, ni qu'un client ne doit pas modifier le statut de sa commande. L'OWASP consacre une section de son guide de test web aux tests de logique métier, précisément parce qu'aucun scanner générique ne les couvre.

L'isolation entre clients (multi-tenant)

Accéder aux données de l'entreprise B depuis un compte de l'entreprise A est un défaut grave. Il se détecte avec deux comptes de test et une compréhension de ce qui doit être cloisonné, pas avec une analyse de motifs.

Les chaînes d'attaque

Les failles les plus sérieuses sont souvent des enchaînements : une fuite mineure révèle un identifiant, qui ouvre un endpoint mal protégé, qui permet de modifier un rôle. Chaque maillon paraît bénin pris seul.

Le jugement sur l'impact

Deux fuites techniquement proches n'ont pas la même gravité si l'une expose un nom et l'autre des données sensibles. La qualification de l'impact, notamment au regard du RGPD, demande un jugement humain.

À quoi ressemble une faille de logique métier que l'IA ne voit pas ?

Elle ressemble à un fonctionnement normal du code. Prenons une API d'export : elle vérifie bien que l'utilisateur est connecté, renvoie le bon format et ne présente aucun motif d'injection. Un analyseur automatique la juge propre. Mais elle ne vérifie pas que le rapport demandé appartient à l'organisation de l'appelant, et il suffit de changer un identifiant pour lire celui d'un autre client.

Deuxième exemple : un parcours de souscription où l'état « payé » est envoyé par le navigateur. Le code est syntaxiquement correct, les entrées sont validées, et pourtant n'importe qui peut s'attribuer l'abonnement. Dans ces deux cas, la faille n'existe que par rapport à une règle de gestion qu'aucun fichier ne contient. Seul un test qui part de la règle (« un client ne lit que ses propres rapports ») la révèle.

C'est aussi pourquoi les outils d'IA gagnent à recevoir cette règle en entrée. Un auditeur humain traduit les règles métier en tests, puis laisse les outils exécuter la volumétrie : essayer chaque identifiant, chaque rôle, chaque route.

Et pour les agents IA, l'IA peut-elle les auditer seule ?

Pas de façon fiable. Tester un agent IA consiste à construire des scénarios d'attaque adaptés à ses sources de contenu et à ses outils, puis à mesurer un impact réel. Des outils automatisés de sondage (jeux de prompts d'injection, détection de fuites) fournissent une base utile, mais ils ne comprennent ni vos droits d'accès ni ce qu'un appel d'outil déclenche dans votre système. Voir la page red team d'agents IA et l'article sur l'injection de prompt.

Comment répartir le travail entre l'IA et l'humain ?

Une répartition qui fonctionne confie à l'IA la préparation et la volumétrie, et à l'humain la décision et la preuve.

1. Préparation (IA + humain) : cartographie de la surface, inventaire des dépendances, premiers motifs repérés.
2. Hypothèses (humain) : comprendre les rôles, les données sensibles et les parcours critiques, puis formuler ce qui ne doit jamais arriver.
3. Tests (humain, outils en appui) : deux comptes de test, essais d'accès entre objets, tests d'escalade, chaînes d'attaque.
4. Vérification (humain) : chaque constat est rejoué et accompagné d'une preuve minimale, sans télécharger de données personnelles.
5. Qualification (humain) : gravité, exploitabilité, impact métier et réglementaire.
6. Rédaction (IA + humain) : mise en forme et relecture.

Comment vérifier qu'un « audit en 5 minutes » vaut quelque chose ?

Posez cinq questions au prestataire ou à l'outil.

• Les constats sont-ils accompagnés d'une preuve rejouable ?
• Combien de comptes de test ont été utilisés, et avec quels rôles ?
• La logique métier et l'isolation entre clients ont-elles été testées ?
• Qui a vérifié chaque constat, et comment les faux positifs sont-ils traités ?
• Le périmètre et les limites de la méthode sont-ils écrits noir sur blanc ?

Un rapport qui n'a pas de réponse à ces questions décrit probablement un scan, et non un audit.

Quelle place pour l'IA dans votre propre hygiène de sécurité ?

Utilisez l'IA pour l'hygiène quotidienne : analyses régulières, mises à jour de dépendances, relecture de code. Gardez un test humain externe avant les moments critiques (mise en production, levée de fonds, ouverture à de gros clients) et chaque fois que vous branchez un agent IA à vos données ou vos outils.

Le Red Team Agent Express de CleanIssue (1 900 €, 5 jours) teste précisément ces agents avec des scénarios construits à la main, appuyés par des outils : voir l'offre. Le premier contact est un rendez-vous découverte de 30 minutes, gratuit, pour situer ce qu'un audit assisté par IA couvre et ce qui reste à un humain. Pour une lecture plus large, voyez la sécurité des agents IA et l'article IA et cybersécurité pour les PME.