Un nombre croissant d'individus et d'organisations appellent à un ralentissement du développement rapide de l'intelligence artificielle, invoquant des craintes selon lesquelles ces systèmes deviendraient trop complexes pour être pleinement compris ou maîtrisés. Dario Amodei, PDG de l'entreprise d'IA Anthropic, a proposé un « plan en trois étapes » dans un message daté du 12 septembre pour répondre à ces préoccupations. Son plan comprend la création de évaluateurs intégrés – des outils pour évaluer les capacités de l'IA –, l'établissement de normes communes de sécurité afin d'assurer des protections cohérentes dans tous les systèmes d'IA, et une coordination mondiale pour favoriser la collaboration internationale en matière de gouvernance de l'IA. Des figures de proue du secteur de l'IA ont exprimé leur soutien à cette approche. Sam Altman, PDG d'OpenAI, Elon Musk, PDG de SpaceX, et Demis Hassabis, fondateur de Google DeepMind, soutiennent tous l'idée de ralentir les progrès de l'IA pour garantir la sécurité et le contrôle. Mark Carney, ancien gouverneur de la Banque du Canada et désormais premier ministre du Canada, a également approuvé la nécessité d'une coordination internationale. Selon Bloomberg, Carney a suggéré qu'un conseil de stabilité technologique, similaire au Conseil de stabilité financière, pourrait constituer une solution à long terme pour gérer les risques liés à l'IA. En juillet, plus de 1 300 employés d'entreprises d'IA ont signé une lettre ouverte exhortant le gouvernement américain à soutenir un effort international visant à créer à la fois les outils techniques et les cadres de gouvernance nécessaires pour réguler le développement de l'IA. La lettre a souligné l'importance d'établir des mécanismes clairs pour guider les progrès de la technologie de l'IA. Par ailleurs, Andrew Bailey, directeur du Conseil de stabilité financière, a exprimé des inquiétudes quant aux risques potentiels d'un effondrement du marché en raison de progrès non régulés de l'IA. Dans une lettre adressée au G20-Finance le 28 août, Bailey a noté que de nombreux pays manquent des protocoles nécessaires pour gérer le lancement et le développement de modèles d'IA avancés, mettant en lumière un vide mondial en matière de préparation réglementaire. Ces appels à la prudence et à la coordination reflètent une reconnaissance plus large selon laquelle l'évolution rapide de la technologie de l'IA nécessite une surveillance attentive pour éviter des conséquences involontaires. À mesure que les systèmes d'IA gagnent en puissance, la nécessité d'une coopération internationale et de cadres réglementaires clairs devient de plus en plus urgente.