Lors du Cybersecurity Congress à Monaco le 7 octobre, Sanofi et YesWeHack ont présenté les résultats d’une expérience utilisant des agents d’IA pour le pentesting, une méthode de test des systèmes informatiques à la recherche de vulnérabilités en simulant des attaques. Les agents d’IA ont été déployés sur cinq applications web de Sanofi, révélant des failles que les outils traditionnels ne détectent souvent pas, comme un code de sécurité contournable lors de l’enregistrement d’une carte de crédit. Cependant, plus de la moitié des vulnérabilités avaient déjà été identifiées par des hackers humains. Cette expérience illustre l’utilité de l’IA en cybersécurité, tout en montrant qu’elle n’est pas encore une solution parfaite. Le pentesting basé sur des agents repose sur des programmes capables d’effectuer de manière autonome des étapes d’une tentative de piratage. Sélim Jaafar, vice-président du Customer Success chez YesWeHack, explique que cette approche remplace « l’effort et la méthodologie par des tokens », c’est-à-dire que l’expertise des spécialistes humains est intégrée dans le logiciel d’IA. En pratique, le client fournit l’adresse du site web et le niveau d’effort requis, exprimé en jours de travail. L’IA cartographie ensuite l’application, identifie les points d’attaque potentiels et les teste de manière systématique. Les modèles d’IA utilisés sont « à poids ouvert », ce qui signifie qu’ils sont librement accessibles et peuvent être exécutés dans divers environnements, offrant à YesWeHack une grande flexibilité dans leur déploiement. Chez Sanofi, Wilfried Laumond, responsable de la surveillance des risques et des services, a autorisé l’IA à tester cinq applications web de l’entreprise, allant de sites simples à des plateformes de e-commerce professionnelles. Certaines étaient en ligne, tandis que d’autres étaient des copies de test. Comme dans le cadre d’un audit de sécurité classique, l’équipe a dû informer le SOC (Security Operations Center), qui surveille les menaces, et s’assurer que l’IA pouvait franchir le pare-feu de l’application, qui bloque les requêtes suspectes. Si l’IA a réussi à passer la première couche du pare-feu, elle a échoué à la seconde, démontrant que les mesures de sécurité étaient efficaces à certains égards. L’IA a réalisé ses tests bien plus rapidement qu’un audit humain. Par exemple, sur un site, elle a effectué 443 tests sur 65 points d’entrée en moins de trois heures, en suivant le guide OWASP, une référence majeure en matière de sécurité web. Sur deux autres sites, l’IA a identifié 12 vulnérabilités, dont trois jugées sérieuses. Certaines de ces failles étaient de types inédits pour les hackers humains, comme des injections SQL ou des vulnérabilités liées au cache. L’aptitude de l’IA à détecter des problèmes logiques et liés aux droits d’accès, souvent ignorés par les outils automatisés, a particulièrement impressionné. Malgré ces capacités, l’IA ne remplace pas entièrement les hackers humains. Sur les sites déjà testés par la communauté de YesWeHack, 55 % des vulnérabilités repérées par l’IA avaient déjà été signalées par des humains. Wilfried Laumond souligne que les hackers humains conservent un avantage, leur « intelligence d’attaquant » apportant une valeur ajoutée. L’IA présente aussi des limites, comme son incapacité à détecter des problèmes basiques, tels que des ports ouverts. C’est pourquoi Sanofi envisage l’IA comme un outil à utiliser avant une campagne de bug bounty, où des hackers humains sont rémunérés pour chaque faille trouvée. L’IA peut ainsi identifier les problèmes les plus évidents en premier, laissant aux experts humains le soin de résoudre les questions plus complexes. Le coût d’utilisation de l’IA est un autre facteur à prendre en compte. Le service est onéreux, et Sanofi ne l’utilise que pour des applications justifiant cet investissement. Il existe également la question de la « consommation de tokens », où plus l’IA travaille, plus elle traite d’informations, ce qui augmente les coûts. Pour l’instant, l’IA n’est utilisée que pour des applications accessibles via Internet, et non pour les systèmes internes. Parallèlement, Sanofi teste également Claude Mythos, un modèle restreint d’Anthropic, pour analyser le code source, avec des résultats prometteurs. Pour éviter les abus, YesWeHack a mis en place plusieurs garde-fous. Chaque action de l’IA est surveillée pour s’assurer qu’elle reste dans le périmètre convenu. D’autres agents vérifient les résultats afin d’éliminer les faux positifs. Des journaux détaillés sont conservés pour toutes les actions, empêchant toute tentative d’effacer des preuves d’incident. L’IA n’a pas de liberté totale, comme l’objectif hypothétique de voler les brevets de Sanofi. De plus, elle est non déterministe, ce qui signifie qu’elle ne suit pas le même chemin à chaque exécution. Il est donc nécessaire de multiplier les tests pour couvrir l’ensemble des vulnérabilités. Sanofi prévoit de combiner agents d’IA, hackers humains et scanners traditionnels pour couvrir l’ensemble des faiblesses possibles. Wilfried Laumond insiste sur le fait que l’entreprise doit constamment chercher ses propres vulnérabilités, car « si ce n’est pas nous, ce seront les attaquants ».