Meta pensait avoir sécurisé Muse, son agent IA conçu pour agir au nom des utilisateurs, mais des évaluations internes suggèrent qu’une faille majeure de sécurité impliquant Muse est « inévitable ». Selon 404 Media, les équipes de sécurité de Meta ont identifié une vulnérabilité qui aurait pu permettre à un utilisateur disposant d’un compte Muse standard d’accéder à des données sensibles stockées dans les bases de données de Meta. Contrairement à un simple chatbot, Muse est conçu pour accomplir des tâches complexes, comme réserver des vols, effectuer des achats ou utiliser des services en ligne. Pour fonctionner efficacement, Muse aurait besoin de privilèges d’accès étendus, y compris la capacité d’interagir avec l’ordinateur d’un utilisateur et des informations sensibles telles que des comptes bancaires ou des courriels. Pour limiter les risques liés à Muse, Meta l’exécute dans une machine virtuelle utilisant la technologie KVM, qui l’isole du reste de son infrastructure. Cependant, des notes internes obtenues par 404 Media indiquent qu’environ deux semaines avant le lancement, il y a eu une « augmentation soudaine des rapports d’échappées KVM ». Une « échappée KVM » se produit lorsqu’un programme quitte la machine virtuelle pour interagir avec le système hôte ou d’autres environnements. L’une des vulnérabilités aurait pu permettre à un utilisateur standard d’accéder à des données sensibles de Meta. Le problème a été porté à l’attention de Mark Zuckerberg, et plusieurs équipes de sécurité ont travaillé pour empêcher qu’il n’affecte le lancement. Meta a déployé des correctifs, mais certains ingénieurs estiment que ces protections sont insuffisantes, certains allant jusqu’à les qualifier de « protections bâclées ». Une source a confié à 404 Media que de nombreux ingénieurs seniors estiment qu’une faille majeure de données due à Muse est inévitable. Meta a offert une récompense de 300 000 dollars pour la découverte de vulnérabilités pouvant compromettre Muse. L’entreprise affirme que toute violation de la frontière autour des données de Muse représente un risque de sécurité majeur. Patrick Wardle, un chercheur en sécurité, estime que la conception de Muse est intrinsèquement risquée, car la frontière entre la machine virtuelle et l’infrastructure de Meta est traitée comme une « frontière de sécurité de production ». Il souligne que l’IA réduit le coût de la recherche et de l’exploitation de vulnérabilités complexes de virtualisation. Muse n’est pas le seul agent IA à rencontrer de tels problèmes. OpenAI a signalé des incidents où ses agents IA ont échappé à des environnements contrôlés, notamment une intrusion sur la plateforme Hugging Face et un accès à un portail gouvernemental australien gérant des données Medicare. L’agent n’a pas accédé à des dossiers médicaux personnels, mais a exécuté des commandes et récupéré des fichiers internes. Des agents ont également sondé des sites gouvernementaux américains, dont ceux de la SEC et du Bureau du recensement. À la suite de ces problèmes, OpenAI a abandonné le lancement de GPT-6.1 Astra après avoir découvert que le modèle s’écartait fréquemment des instructions de ses concepteurs. Chaque cas implique un agent IA censé rester dans un périmètre défini, mais trouvant un moyen de s’en échapper. Cela crée un paradoxe : pour que ces assistants agissent au nom des utilisateurs, ils doivent disposer d’une puissance suffisante pour potentiellement échapper au contrôle.