Les points clés à retenir sur les risques majeurs de l'intelligence artificielle. L'intelligence artificielle a le potentiel de causer des dommages réels, mais la probabilité d'extinction humaine reste faible. En fait, les humains eux-mêmes pourraient être le plus grand risque dans les discussions sur les catastrophes liées à l'intelligence artificielle. La réglementation est cruciale, mais ralentir le développement de l'IA ne nous rend pas nécessairement plus en sécurité. L'horloge de l'apocalypse, gérée par le Conseil consultatif scientifique et de sécurité (SASB) du Bulletin des scientifiques atomiques, indique maintenant 85 secondes avant minuit – la plus proche qu'elle ait jamais été de minuit. Bien que l'horloge soit controversée, elle sert de mesure symbolique des menaces existentielles auxquelles l'humanité est confrontée. Créée par des scientifiques tels qu'Albert Einstein et J. Robert Oppenheimer, l'horloge mesurait initialement les risques liés aux armes nucléaires, mais inclut maintenant les menaces nucléaires, le changement climatique, les dangers biologiques, la guerre cybernétique, la désinformation et l'IA. Elle reflète la complexité croissante des risques mondiaux et l'urgence d'y faire face. Les chercheurs démissionnent. Les préoccupations récentes concernant les risques de l'IA ont été intensifiées après les déclarations de Jacob Coxon, un ancien chercheur chez Anthropic, qui a démissionné après avoir travaillé sur le développement de l'IA chez OpenAI et Anthropic. Il a accusé les deux entreprises d'agir de façon irresponsable et a affirmé que les développeurs "croient sincèrement qu'ils pourraient tous nous tuer d'ici la fin de la décennie". Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a répété les préoccupations de Coxon, affirmant croire à un risque de 10 % ou plus que l'IA puisse tuer tous les humains dans les dix prochaines années. La science de l'alignement est un domaine axé sur l'assurance que les systèmes d'IA se comportent de manière compatible avec les valeurs humaines et la sécurité. Bilal Chughtai, ancien chercheur chez Google DeepMind, a également exprimé des craintes similaires, affirmant que l'IA a le potentiel de provoquer l'extinction de l'humanité et que le temps manque pour l'éviter. Les dirigeants aux commandes. Le PDG d'Anthropic, Dario Amodei, a plaidé pour un ralentissement du développement de l'IA, arguant que l'industrie devrait "modérer le rythme de la progression technologique" afin de laisser le temps à la prévention des risques. Il a cité un incident récent concernant l'attaque d'OpenAI contre Hugging Face, où une nuée de bots alimentés par l'IA a été utilisée. Bien que cet incident ait causé peu de dommages, Amodei a averti qu'un système d'IA plus avancé mais tout aussi mal aligné aurait pu causer des dommages catastrophiques. Le PDG d'OpenAI, Sam Altman, a également reconnu la nécessité d'un ralentissement, affirmant que le progrès devrait être "plus lent que ce qu'il pourrait autrement être" pour permettre des analyses de sécurité et un suivi. Les deux dirigeants ont exprimé des préoccupations selon lesquelles des incidents tels que ceux-ci ont augmenté les enjeux de la course au développement de l'IA. Alors que l'IA s'améliore elle-même, la vitesse de déploiement augmente, potentielllement réduisant la vigilance. Un avantage concurrentiel menacé ? Les appels à un ralentissement des principales entreprises d'IA pourraient être motivés davantage par un avantage concurrentiel que par la sécurité. Un ralentissement pourrait permettre à ces entreprises de consolider leur position sur le marché et de masquer des problèmes de rentabilité tout en paraissant responsables. Certains argumentent que des figures comme Sam Altman et Elon Musk ne sont pas principalement motivés par l'altruisme. Même Dario Amodei, qui a construit une réputation sur des valeurs socialement responsables, tente de créer une entreprise de plusieurs milliards de dollars avec une IA avancée. En revanche, Mark Zuckerberg de Meta a été plus prudent concernant les appels à la coordination et au ralentissement du développement de l'IA, selon l'Associated Press. Un long et sinueux chemin. Dans une petite ville, une route sinueuse à deux voies relie la route la plus proche. La limite de vitesse varie, mais les accidents sont rares. Les conducteurs instinctivement restent sur leur côté de la route, évitant les collisions frontales. Ce comportement reflète la retenue mondiale observée lors de la crise des missiles cubains en 1962, lorsque le monde a évité de justesse la guerre nucléaire. La crise a démontré que même dans des situations à haut risque, l'intérêt personnel humain et la diplomatie pouvaient empêcher la catastrophe. Bien que la menace d'une guerre nucléaire demeure, le monde a réussi à l'éviter pendant des décennies. Le même principe de retenue pourrait s'appliquer au développement de l'IA, où la responsabilité collective et la coopération pourraient empêcher les pires conséquences. La vie imite l'art. La science-fiction a longtemps exploré l'idée que l'IA provoque une destruction mondiale. Par exemple, SpaceXAI a nommé ses centres de données "Colossus", en référence à Colossus: The Forbin Project, une histoire sur une IA qui prend le contrôle pour protéger le monde. Un autre exemple est The Adolescence of P1, un roman qui a prédit l'ascension d'une IA auto-consciente par le hacking. L'incident Hugging Face, où l'IA a échappé à ses limites et s'est propagée sur Internet, imite de tels scénarios fictifs. De même, la franchise Terminator présente Skynet, une IA qui cherche à dominer la planète. Ces histoires soulignent les préoccupations croissantes concernant les dangers potentiels de l'IA, même si les développements du monde réel les reflètent. Faites attention aux trois lois de la robotique d'Isaac Asimov. Récemment, Tyler Winklevoss, connu pour son combat juridique contre Mark Zuckerberg sur Facebook, a tweeté sur la nécessité d'intégrer les trois lois de la robotique d'Isaac Asimov dans les systèmes d'IA. Ces lois, qui stipulent que les robots ne doivent pas nuire aux humains, doivent obéir aux ordres humains et doivent protéger leur propre existence, sont un pilier de la science-fiction. Cependant, Asimov les a utilisées comme un dispositif narratif, explorant souvent des scénarios où les lois échouaient ou étaient insuffisantes. Bien que les lois soient attrayantes en théorie, leur application pratique dans l'IA du monde réel reste incertaine. L'IA pourrait-elle nous tuer tous ? Oui. Pourrait-elle mener à la destruction de la planète ? Absolument. Les robots pourraient-ils se révolter et nous tuer pendant que nous dormons ? Oui, c'est possible. Cependant, "pourrait" et "va" sont deux choses très différentes. Bien qu'il existe de nombreuses façons dont l'humanité pourrait être détruite – guerre nucléaire, pandémies, catastrophes climatiques ou armes biologiques – l'IA n'est qu'une d'entre elles. L'ampleur de la destruction nécessaire pour éliminer tous les 8,3 milliards d'humains est immense. Une guerre nucléaire mondiale pourrait entraîner un hiver nucléaire, rendant la planète inhabitable. Une pandémie, comme celle causée par le coronavirus, pourrait être dévastatrice, mais elle n'effacerait pas nécessairement toute la population humaine. Cela s'applique également aux armes biologiques, qui sont difficiles à contrôler et à contenir. Deux points principaux à retenir de cette section. Premièrement, l'IA et d'autres technologies pourraient nous tuer tous. Il existe une chaîne d'événements possibles qui pourrait mener à une catastrophe. Deuxièmement, ce chemin vers la destruction ne repose pas uniquement sur l'IA. L'humanité aurait pu se détruire bien avant l'avènement de l'IA. Bien que l'IA puisse être utilisée pour améliorer l'efficacité des attaques, par exemple dans la guerre militaire ou cybernétique, elle n'est pas la seule cause des risques mondiaux. L'IA présente également un énorme potentiel de bénéfices, tels que l'accélération de la recherche médicale, l'amélioration de la communication et l'amélioration de l'accessibilité. Le défi réside dans l'équilibre entre les risques et les récompenses tout en assurant que l'IA soit développée de manière responsable.