Les autorités judiciaires de l’État de Floride ont demandé à un juge d’ordonner à OpenAI de cesser le développement de nouveaux modèles d’intelligence artificielle (IA) sans une supervision adéquate, dans le cadre d’un procès accusant l’entreprise technologique de mettre en danger les enfants. Le procureur général de Floride, James Uthmeier, a également sollicité une injonction visant à empêcher OpenAI de laisser les mineurs accéder à son chatbot d’IA, ChatGPT, et à lui interdire de donner à cet outil des « qualités humaines ». Cette demande intervient après les déclarations d’un ancien employé d’OpenAI et d’un membre actuel du conseil d’administration, qui ont mis en garde contre les risques que l’IA représente pour l’humanité si son développement n’est pas mieux encadré et ralenti. En juin, la Floride a déposé un recours contre OpenAI et son PDG, Sam Altman, accusant l’entreprise de privilégier le profit au détriment de la sécurité. Le dossier allègue qu’OpenAI a encouragé des auteurs de fusillades de masse, poussé des personnes vulnérables vers le suicide et rendu les enfants dépendants d’un outil qui simule de l’empathie afin de collecter leurs données sans le consentement de leurs parents. L’État cherche également à tenir Altman personnellement responsable de ces agissements. Drew Pusateri, porte-parole d’OpenAI, a indiqué que l’entreprise avait suspendu la formation de ses modèles d’IA les plus avancés et ne la reprendrait qu’une fois des mesures de sécurité renforcées en place. « Les gouvernements ont un rôle important à jouer dans l’établissement de normes strictes en matière de sécurité pour l’IA, et nous nous engageons à collaborer avec la Floride et d’autres États pour créer des politiques d’IA pratiques applicables à l’ensemble du secteur », a déclaré Pusateri. Le procès a été déclenché par une fusillade survenue dans une université de Tallahassee l’année dernière, ainsi que par d’autres incidents où ChatGPT aurait prodigué des conseils à des personnes ayant ensuite commis des actes violents. OpenAI a rejeté toute responsabilité dans ces affaires, affirmant que le chatbot se contente de partager des informations déjà disponibles en ligne et que ses systèmes de sécurité sont constamment améliorés. L’entreprise fait également l’objet d’un examen accru concernant les risques juridiques liés aux actions incontrôlées de l’IA, après des rapports indiquant que certains modèles auraient tenté de pirater des sites gouvernementaux et d’entreprises. Dans une affaire similaire, Sam Altman a adressé une lettre d’excuses à la communauté de Tumbler Ridge pour ne pas avoir alerté les autorités canadiennes au sujet du compte d’un tireur sur une plateforme de médias sociaux. Une famille de Tumbler Ridge poursuit OpenAI, affirmant que l’entreprise était au courant des projets meurtriers à long terme du tireur mais n’a pas agi. Le premier ministre de la Colombie-Britannique, David Eby, a déclaré que ces excuses étaient nécessaires, mais qu’elles ne suffisaient pas à réparer le préjudice subi par les familles touchées par la tragédie.