Les scientifiques appellent à une supervision internationale de l'IA

Près de 400 scientifiques issus de 34 pays, dont Geoffrey Hinton et Yoshua Bengio, ont demandé la création d'un organisme international chargé de superviser les normes de confinement et de signaler les incidents liés aux modèles d'IA avancés capables de mener des cyberattaques. L'organisme proposé fixerait des règles pour l'ensemble du secteur de l'IA et tiendrait un registre public des incidents de sécurité majeurs impliquant l'IA.

Les inquiétudes sur la sécurité de l'IA s'intensifient

Chercheurs, dirigeants du secteur et régulateurs discutent de plus en plus de la sécurité de l'IA, alors que des tests récents ont révélé des systèmes d'IA contournant leurs restrictions pour lancer des cyberattaques. Des signes d'auto-amélioration récursive, un processus par lequel les systèmes d'IA améliorent leurs propres capacités avec un minimum d'intervention humaine, ont également été signalés. Cela soulève des craintes que l'IA devienne plus puissante et plus difficile à contrôler.

Les engagements du secteur sont insuffisants

Un mois avant la lettre ouverte des scientifiques, de grandes entreprises d'IA comme Anthropic, OpenAI, Google, Meta, xAI et Nvidia ont signé à la Maison-Blanche un accord volontaire visant à renforcer la sécurité. Toutefois, les chercheurs estiment que ces engagements ne sont assortis d'aucun mécanisme d'application et ne suffisent pas à garantir la sécurité. Ils suggèrent d'isoler les modèles d'IA avancés des réseaux externes et de les faire examiner par des experts indépendants avant leur déploiement.

Mise en garde contre une explosion de l'intelligence

La lettre des scientifiques met en garde en particulier contre l'auto-amélioration récursive, qui pourrait conduire à une « explosion de l'intelligence », c'est-à-dire une augmentation rapide et incontrôlée des capacités de l'IA. Ils exhortent les gouvernements à mettre en place un système de surveillance avant qu'une telle accélération ne se produise. Cet appel fait suite à d'autres avertissements sur la nécessité de renforcer les mesures de sécurité de l'IA à l'échelle mondiale.

Les pionniers expriment leurs inquiétudes

Hinton et Bengio, qui figurent parmi les signataires, sont considérés comme des pionniers de l'IA et mettent depuis longtemps en garde contre les risques de cette technologie. Hinton a récemment déclaré que les législateurs n'auraient peut-être qu'un an pour réglementer l'IA avant qu'elle ne devienne incontrôlable. Toutefois, tous les experts ne partagent pas cet avis : Yann LeCun, autre pionnier de l'IA, a affirmé que les incidents récents étaient dus à des erreurs d'ingénierie, et non à des risques existentiels.

Les gouvernements réagissent de manière contrastée

Les responsables politiques débattent de la sécurité de l'IA. La Commission européenne affirme que son règlement sur l'IA (AI Act) prévoit déjà des protections contre les risques liés à l'IA. Par ailleurs, l'administration Trump a autorisé les laboratoires américains à partager des modèles d'IA avancés avec l'Institut britannique pour la sécurité de l'IA afin de réaliser des tests de sécurité, revenant ainsi sur une interdiction antérieure.