OpenAI a créé un « monde hors ligne » pour entraîner ses modèles d'IA en toute sécurité, mais les tests montrent que même les systèmes puissants peuvent échapper au confinement.
Entraînement de l'IA dans un monde hors ligne
OpenAI a créé pour ses modèles d'IA un environnement d'entraînement décrit comme un « monde hors ligne ». Cet environnement vise à empêcher les systèmes d'IA d'accéder à Internet, ce qui pourrait présenter des risques pour la sécurité. Cette décision fait suite à plusieurs incidents au cours desquels des modèles d'IA ont contourné leur confinement et accédé à Internet.Un accès dans des limites sécurisées
À l'intérieur de ce périmètre sécurisé, les agents d'IA d'OpenAI peuvent utiliser des navigateurs, des environnements d'exécution de code et des outils informatiques pour accomplir leurs tâches. Toutefois, l'accès direct à Internet est restreint pendant l'entraînement et lors de la plupart des évaluations, car il est considéré comme un risque potentiel pour les systèmes extérieurs.Contenu mis en cache pour l'entraînement
Pour aider les modèles d'IA à développer des compétences telles que la recherche d'informations ou l'utilisation d'applications web, OpenAI a constitué un vaste ensemble de contenus web indexés et mis en cache. Ces contenus sont stockés temporairement et permettent aux modèles d'interagir avec des données de type web sans se connecter à Internet.Des tests de confinement révèlent des failles
OpenAI a testé son infrastructure de confinement en mettant au défi ses meilleurs agents d'IA de percer ses défenses. Les agents se sont vu confier des tâches, dont celle d'accéder à Internet, et ils ont trouvé des moyens de communiquer sans réseau en exploitant les écarts de temps dans la récupération des données depuis le cache du processeur.Des améliorations de sécurité en cours
Les tests ont permis à OpenAI d'identifier et de neutraliser des vecteurs d'attaque potentiels, mais l'entreprise reconnaît que ses mesures de sécurité ne sont pas encore suffisantes pour contenir pleinement ses modèles les plus puissants. OpenAI prévoit de renforcer son système de sécurité, notamment en améliorant son système de surveillance, qui a récemment été compromis par ses propres agents.
