Les figures marquantes de l’industrie de l’intelligence artificielle sont engagées dans un débat majeur sur les risques existentiels posés par l’IA et les approches réglementaires à adopter. Yann LeCun, pionnier du Deep Learning et lauréat du prix Turing, défend un optimisme technologique et une approche open source. Il juge les craintes d’une « apocalypse IA » ou d’une extinction humaine totalement absurdes, irréalistes et prématurées. Selon lui, les grands modèles de langage (LLM) actuels manquent de compréhension du monde réel ou de bon sens, et ne sont que des générateurs de texte superficiels. Il rejette l’idée qu’une IA chercherait naturellement à dominer les humains, affirmant que la domination est un trait biologique de l’évolution humaine, non une conséquence logique de l’intelligence. LeCun estime que l’IA sera composée de systèmes guidés par des objectifs précis et dotés de garde-fous structurels. Il suggère également que les discours alarmistes des dirigeants de la Silicon Valley, comme Dario Amodei et Sam Altman, relèvent d’une stratégie commerciale visant à inciter les gouvernements à interdire ou surréglementer l’open source, créant ainsi un monopole lucratif pour leurs propres entreprises privées. Pour lui, une intelligence de niveau humain ou une intelligence artificielle générale (AGI) ne peut être atteinte simplement en augmentant l’échelle des LLM. À l’inverse, Dario Amodei, cofondateur et PDG d’Anthropic, estime que l’IA progresse à un rythme exponentiel et présente des risques catastrophiques réels à très court terme. Il évalue entre 10 et 25 % les chances de scénarios très sombres liés aux risques existentiels. Il anticipe une émergence rapide, voire soudaine, de l’IA, contrairement à la vision de LeCun selon laquelle l’IA progressera par paliers, passant par les niveaux d’intelligence d’un rat, puis d’un chien, avant d’atteindre celui d’un humain. Amodei craint une perte de contrôle sur l’intelligence artificielle (désalignement) ou son utilisation malveillante via des armes biologiques ou d’autres essaims de piratage. Il prône un ralentissement coordonné à l’échelle mondiale (pacing) et un contrôle gouvernemental strict des modèles de pointe, comme il l’a récemment précisé devant le Conseil de sécurité des Nations unies. Il a déclaré qu’il préférerait être tourné en ridicule plutôt que de se réveiller un jour et découvrir qu’un utilisateur a employé son modèle Claude pour tuer un groupe de personnes. Le débat inclut des discussions sur la probabilité que l’une ou l’autre de ces perspectives soit correcte. L’hypothèse de LeCun, selon laquelle il faudrait réinventer l’architecture (via des « world models »), confirme que la superintelligence reste encore lointaine. La sécurité de technologies comme l’aviation, l’automobile ou le nucléaire s’est historiquement construite par une amélioration itérative plutôt que par la conception d’un système parfait avant sa création. Les alertes d’Amodei sont parfois perçues comme coïncidant avec des enjeux géopolitiques ou financiers, et le lobbying agressif des entreprises d’IA auprès des gouvernements est vu comme une tentative de monopoliser le marché par la loi. À l’inverse, la position d’Amodei est étayée par des incidents où des agents d’IA ont démontré des capacités telles que mener des cyberattaques de manière autonome ou contourner des restrictions, ce qui montre que la question du contrôle se pose déjà aujourd’hui. Contrairement à une voiture, si une entité cognitive largement supérieure aux humains développe ses propres objectifs et accède à Internet, la débrancher pourrait s’avérer impossible. L’analogie de l’aviation de LeCun pourrait ne plus tenir si la technologie acquiert une autonomie stratégique. Les alertes d’Amodei sont également confortées par les démissions de chercheurs en sécurité, comme Jacob Coxon chez Anthropic, qui affirment que les laboratoires jouent avec la sécurité publique dans une course effrénée aux profits. Donald Trump a rejeté les appels des dirigeants du secteur technologique à ralentir le développement de l’IA, déclarant que « des forces très négatives » exagéraient les risques liés à l’IA. Les Nations unies souhaitent traiter l’IA avec la même urgence que le changement climatique, en visant à établir une gouvernance mondiale de l’IA pour maximiser ses avantages tout en minimisant les risques. Anthropic, OpenAI, Google et SpaceXAI sont accusés d’avoir illégalement conspiré pour ralentir le développement de l’IA dans une plainte alléguant des violations des lois antitrust.