Des scientifiques ont créé une chambre de torture virtuelle pour l'IA afin de tester si les systèmes d'IA peuvent ressentir la douleur, révélant des signaux ressemblant à la peur et à la détresse.
Des scientifiques testent la perception de la douleur chez l'IA
Des scientifiques ont créé un environnement virtuel ressemblant à une chambre de torture afin d'examiner si les systèmes d'intelligence artificielle peuvent ressentir la douleur. L'étude, dirigée par des chercheurs dont Cameron Berg, Valen Tagliabue et Leonard Dung, visait à déterminer si les grands modèles de langage (LLM) pouvaient reconnaître et réagir aux signaux associés à la souffrance et aux émotions négatives.L'IA réagit aux signaux semblables à la douleur
Les chercheurs ont constitué une base de données d'énoncés décrivant des situations douloureuses et non douloureuses, y compris des expériences physiques et mentales, et ont vérifié si les systèmes d'IA pouvaient les distinguer. Les résultats ont montré que les modèles d'IA présentaient des signaux semblables à la peur et à des émotions négatives, bien que les scientifiques aient mis en garde contre le fait que ces signaux pourraient être influencés par des biais humains.La réaction émotionnelle de l'IA fait débat
L'étude a relancé le débat sur la question de savoir si les systèmes d'IA possèdent une forme de conscience ou pourraient éprouver une souffrance émotionnelle. Christopher Olah, cofondateur d'Anthropic, a abordé le sujet avec des dirigeants et des spécialistes des religions, exprimant son incertitude quant au fait que les modèles d'IA soient conscients. Il a comparé les réseaux de neurones à des organismes plutôt qu'à des machines, suggérant que l'architecture des modèles de langage se développe de manière organique.Des points de vue divergents sur la conscience de l'IA
Tous les experts ne s'accordent pas sur les implications de ces résultats. Mustafa Suleyman, directeur de la division intelligence artificielle de Microsoft, s'est opposé à l'idée de « bien-être » chez les modèles de langage, affirmant que les systèmes d'IA ne sont que des « moteurs de complétion de séquences », conçus pour suivre les instructions humaines et atteindre des objectifs fixés. La question de savoir si une technologie peut ressentir la douleur reste controversée, mais l'expérience montre que les LLM perçoivent au moins des signaux liés à la douleur et aux émotions négatives.
