OpenAI, une société de recherche en intelligence artificielle de premier plan, a licencié trois chercheurs de ses équipes dédiées à la sécurité et à l’alignement. Ces chercheurs, dont Tomek Korbak, Jasmine Wang et Mikita Balesni, participaient à des projets visant à garantir que les systèmes d’IA s’alignent sur les valeurs et les intentions humaines. Selon le Wall Street Journal, OpenAI a informé certains de ses employés que ces chercheurs avaient quitté l’entreprise en raison de violations des procédures internes concernant la gestion d’informations sensibles. L’entreprise a indiqué qu’une enquête interne avait révélé que des données confidentielles avaient été partagées avec un groupe externe, sans que l’identité du destinataire ni la nature des données ne soient divulguées. L’article du Wall Street Journal ne précise pas si les informations partagées par les trois chercheurs étaient liées à une enquête antérieure impliquant des experts indépendants de l’organisation à but non lucratif METR et un employé de Redwood Research. Ces derniers avaient analysé le comportement des systèmes d’IA d’OpenAI pendant six jours dans les locaux de l’entreprise. METR avait ensuite publié un rapport basé sur des informations fournies par OpenAI, lequel avait été mené selon des procédures approuvées par l’entreprise. Il reste cependant incertain si le destinataire des données partagées était METR ou Redwood Research. OpenAI aurait reporté le lancement de son nouveau modèle GPT-6.1 Astra en raison de préoccupations liées à la sécurité. Au lieu de déployer le modèle, l’entreprise a choisi de mettre en place un système de surveillance destiné à détecter les comportements inattendus des systèmes d’IA. OpenAI a demandé aux développeurs d’intensifier les mesures de sécurité lors des tests. Dans un communiqué rapporté par le Wall Street Journal, l’entreprise a déclaré que les chercheurs concernés avaient enfreint les procédures internes et mal géré des informations sensibles, ajoutant qu’elle avait observé « une violation de la confiance professionnelle ». OpenAI, dirigée par le PDG Sam Altman, a justifié ces licenciements en invoquant les violations présumées des règles par les chercheurs concernant la gestion d’informations sensibles. Les chercheurs licenciés avaient auparavant exprimé leurs inquiétudes quant aux dangers potentiels de l’IA sur les réseaux sociaux.