L'injection de prompts pose des risques de sécurité pour l'IA

Une simple phrase dissimulée dans un e-mail ou une page web peut induire en erreur les systèmes d'intelligence artificielle, selon des experts du Cybersecurity Summit. Cette technique, appelée injection de prompts, consiste à intégrer des instructions cachées dans les systèmes d'IA, en exploitant leur capacité à traiter les données qu'ils reçoivent et à agir en conséquence.

Les experts soulignent la menace croissante

L'injection de prompts est identifiée par l'OWASP, une autorité de référence en matière de sécurité des applications, comme le premier risque lié à l'IA générative. Adrien Merveille, de Check Point, décrit cette méthode comme un moyen de « manipuler une IA », et distingue les formes directe et indirecte d'injection, chacune reposant sur des modes d'exécution différents.

Des exemples concrets de prompts cachés

Microsoft 365 Copilot, un assistant d'IA qui lit et résume les e-mails, pourrait être affecté si un prompt caché est inclus dans un message. François Deruty, de Sekoia, note que de tels prompts peuvent être intégrés aux e-mails, souvent dissimulés dans des zones comme la signature ou les formules de politesse finales.

EchoLeak illustre la vulnérabilité

Une faille de Copilot, connue sous le nom d'EchoLeak, a été révélée en 2025 et montre comment l'injection de prompts peut être utilisée pour exploiter des systèmes d'IA. Bien que les défenses se soient améliorées, le risque sous-jacent demeure. Gilles Walbrou, de DataDome, compare l'injection de prompts à l'injection SQL, une méthode d'attaque des bases de données utilisée par le passé, tout en soulignant la nature dynamique de l'IA, qui constitue un nouveau défi.

Les chatbots du service client sont vulnérables

Des chatbots du service client ont été détournés pour générer du code malveillant. Adrien Merveille explique que lorsque les agents d'IA se limitent à la rédaction, les dégâts restent minimes, mais que les risques augmentent lorsqu'ils agissent. Il cite l'exemple d'agents d'IA manipulés pour cesser d'enregistrer l'activité d'une adresse IP précise, permettant ainsi à une attaque de passer inaperçue.

Les développeurs font face à des menaces cachées

Les développeurs sont également exposés, car des prompts dissimulés peuvent être intégrés dans des bibliothèques de code. François Deruty met en garde contre des vulnérabilités comparables à celles observées lors de la cyberattaque SolarWinds. Anthony Hervé, d'Illumio, insiste sur la nécessité de contrôler attentivement les accès que les agents d'IA ont aux serveurs des entreprises.

Aucune IA n'est totalement sûre

Check Point a testé 128 modèles d'IA et constaté que le meilleur d'entre eux, Grok 4.7, échouait dans 8,3 % des cas lorsqu'il était exposé à des requêtes malveillantes. Adrien Merveille se demande si l'on accepterait de prendre une voiture présentant un risque de défaillance aussi élevé, soulignant la nécessité d'améliorer la sécurité de l'IA.

Une IA mal gérée peut entraîner des erreurs coûteuses

Le chatbot d'une entreprise de transport a fourni de fausses informations sur des remboursements, ce qui a conduit à une action en justice remportée par un client. Cet exemple souligne l'importance de tester et de surveiller minutieusement les assistants d'IA, avant et après leur déploiement.

Sécuriser l'IA exige des défenses à plusieurs niveaux

Eric Bohec, de Nomios, souligne que la faille réside dans le fonctionnement même de l'IA, et pas seulement dans la gouvernance. Adrien Merveille suggère de mettre en place des passerelles de sécurité pour filtrer les requêtes, tandis que François Deruty recommande de vérifier chaque message afin de détecter toute altération. Gilles Walbrou reconnaît qu'un renforcement de la sécurité peut entraîner davantage de contournements, mais reste optimiste quant aux solutions futures.