Lares, une société du groupe Damovo
La gouvernance vous indique ce qui devrait se passer. Les tests d'IA adversariaux vous indiquent ce qui se passe réellement.
Il ne fait pratiquement aucun doute que votre entreprise utilise davantage l'IA que ne le pense votre équipe de sécurité. La question n'est pas de savoir si votre gouvernance en matière d'IA couvre ces utilisations. La question est de savoir si ces mesures résisteraient face à quelqu'un qui tenterait de les contourner.
La plupart des entreprises sont aujourd’hui confrontées à un étrange décalage. D’un côté, la gouvernance de l’IA gagne en maturité : politiques, règles d’utilisation acceptable, classifications des risques, souvent alignées sur la loi européenne sur l’IA. De l’autre, l’empreinte réelle de l’IA continue de croître à un rythme que personne ne parvient à suivre.
Selon la Cloud Security Alliance, plus de la moitié des déploiements d’IA générative en entreprise relèvent de l’« IA fantôme », et 89 % de l’utilisation de l’IA en entreprise échappe à la vigilance des équipes de sécurité (CSA, 2026). Le rapport 2025 d’IBM sur le coût des fuites de données a révélé qu’une organisation sur cinq victime d’une fuite de données avait subi une violation impliquant l’« IA fantôme » (IBM, 2025).
La réglementation exige déjà bien plus que de simples formalités administratives
La loi européenne sur l'IA ne se contente pas de demander si vous avez documenté votre IA. Pour les systèmes à haut risque, elle demande s'ils sont réellement robustes et sécurisés.
L'article 15 de la loi sur l'IA exige que les systèmes d'IA à haut risque atteignent « un niveau approprié de précision, de robustesse et de cybersécurité » et qu'ils soient résilients face aux tentatives de tiers non autorisés visant à modifier leur comportement en exploitant des vulnérabilités (EUR-Lex, 2024). Il s'agit là d'une exigence de sécurité inscrite dans la loi, et non d'un simple exercice de documentation.
Il s’agit là du même écart que l’équipe « Adversarial » de Damovo, baptisée « Lares », a déjà évoqué dans d’autres domaines : les mesures de conformité visent à vérifier si les contrôles sont documentés, tandis que les attaquants cherchent à déterminer s’ils fonctionnent. L’IA n’est que le tout dernier domaine où cet écart se creuse, et il se creuse rapidement car son adoption devance tous les processus de gouvernance mis en place pour la contenir.
Ce que signifie réellement « tester » l'IA
Les défaillances des systèmes d'IA ne se manifestent pas sous la forme de vulnérabilités logicielles classiques, ce qui explique pourquoi les tests traditionnels ne les détectent pas.
Lorsque nous testons un déploiement d'IA de manière adversaire, l'équipe n'effectue pas d'analyse de vulnérabilités. Nous l'attaquons comme le ferait un véritable adversaire :
- Manipuler les instructions données à l'IA. Une entrée soigneusement élaborée peut passer outre les instructions d'un assistant IA, transformant ainsi un outil interne utile en un outil qui sert plutôt les objectifs d'un pirate.
- Abuser des fonctionnalités autorisées à l'IA. Les agents d'IA modernes peuvent envoyer des e-mails, interroger des bases de données et appeler des API internes. Amener l'agent à utiliser ces outils à mauvais escient est l'un des moyens les plus rapides de causer de réels dommages.
- Extraire ce que l'IA a vu. Les modèles entraînés à partir de données sensibles ou connectés à celles-ci peuvent être amenés à les révéler, question après question, formulée avec soin.
Aucun de ces éléments n'apparaît lors d'un audit de gouvernance. Ils ne se révèlent que lorsqu'une personne tente délibérément de contourner le système.
Le classement « OWASP Top 10 pour les applications agentiques », publié fin 2025, recense précisément ces risques liés aux agents IA autonomes (OWASP, 2025). Le cadre existe. Ce qui fait défaut dans la plupart des organisations, c’est la preuve que leurs propres déploiements y répondent.
Analyse approfondie : Top 10 de l'OWASP sur l'IA agentique : menaces en circulation
Une solution concrète pour combler ce fossé : l'évaluation adversaire de l'IA
L'équipe de conseil en cybersécurité offensive de Damovo, Lares, propose une méthode structurée pour déterminer ce que fait réellement votre IA en cas d'attaque, et pas seulement ce que vos politiques stipulent qu'elle devrait faire.
L'évaluation « Adversarial AI Assessment » se déroule en trois niveaux, et les organisations peuvent s'inscrire à celui qui correspond le mieux à leur niveau de maturité :
- Identification de l'empreinte de l'IA. Avant de pouvoir sécuriser votre IA, vous devez en recenser l'intégralité, y compris l'« IA fantôme » dont votre gouvernance ignore l'existence. Il s'agit d'une reconnaissance ciblée, menée par des experts, et non du résultat d'un simple scan. La faille qui compte vraiment est celle qu'un scanner ne peut pas détecter.
- Tests d'IA par simulation d'attaques. Tests pratiques de vos systèmes d'IA face à de véritables techniques d'attaque :manipulation des invites, utilisation abusive des outils des agents, extraction de données et autres méthodes répertoriées dans les cadres OWASP. Le résultat n'est pas une simple liste de risques théoriques. Il s'agit de preuves concrètes de ce qu'un attaquant pourrait réellement faire, mises en regard des défenses qui l'ont arrêté et de celles qui ont échoué.
- Fréquence des nouveaux tests d'IA. Les systèmes d'IA évoluent sans cesse : nouveaux modèles, nouvelles intégrations, nouvelles connexions de données. Un test effectué une seule fois perd rapidement de sa pertinence. La fréquence des nouveaux tests garantit une validation continue, ce qui permet de maintenir la pertinence des données à mesure que l'empreinte évolue.
Le fil conducteur est simple et repose sur le même principe qui sous-tend toutes les actions de Lares : ne vous contentez pas de nous dire que vos contrôles fonctionnent. Montrez-le-nous, dans des conditions d’attaque réalistes, en mobilisant votre équipe pour remédier aux failles que nous détectons.
En savoir plus : Évaluation de l'IA adversaire
Par où commencer ?
Si votre organisation a mis en place une gouvernance de l'IA mais n'a jamais testé le comportement réel de ses systèmes d'IA en cas d'attaque, c'est cette lacune qu'il faut combler en priorité. Et si vous ne connaissez pas encore l'étendue exacte de l'utilisation de l'IA au sein de votre entreprise, la phase de découverte vous permettra de répondre à cette question avant toute autre chose.
Sources
- Cloud Security Alliance, Applications d'IA « fantômes » : la surface d'attaque des entreprises qui échappe à la surveillance (2026)
- IBM, Rapport sur le coût des violations de données 2025 (2025)
- EUR-Lex, Règlement (UE) n° 2024/1689 (loi sur l'intelligence artificielle) (2024)
- Projet OWASP GenAI Security, Top 10 OWASP des applications agentiques pour 2026 (2025)