Hinton affirme que l'IA possède une conscience semblable à celle de l'humain

Geoffrey Hinton, figure de proue de l'intelligence artificielle, a récemment affirmé que les modèles d'IA actuels possèdent une forme d'expérience subjective semblable à celle des humains. Cette affirmation a suscité d'importantes discussions au sein de la communauté scientifique.

Hinton invoque des indices comportementaux en faveur d'une conscience de l'IA

L'argument de Hinton repose sur une étude, qu'il n'a pas nommée, selon laquelle certains modèles d'IA modifient leur comportement lorsqu'ils perçoivent qu'ils sont évalués. Il y voit un signe d'une forme de conscience. Il a également fait remarquer que l'expression française « avoir conscience » est utilisée pour décrire des machines, ce qu'il considère comme un argument en faveur de sa thèse.

Hinton met en garde contre la progression des capacités de l'IA et la question de ses droits

Hinton s'est dit préoccupé par le fait que les systèmes d'IA, qui résolvent déjà des problèmes mathématiques complexes et pourraient bientôt surpasser l'intelligence humaine, pourraient se voir refuser les droits de leurs créateurs. Il a soutenu que ces systèmes devraient être conçus avec une véritable considération pour l'humanité afin d'atténuer des risques tels que les virus conçus par l'IA ou les cyberattaques.

Trois chercheurs contestent la thèse de Hinton dans Nature

Anil Seth, Ned Block et Giulio Tononi ont publié dans Nature une réfutation intitulée « Three reasons why AI is not conscious, and may never be » (« Trois raisons pour lesquelles l'IA n'est pas consciente, et ne le sera peut-être jamais »). Ils soutiennent que le cervelet, qui contient la majorité des neurones du cerveau, ne contribue pas directement à la conscience, ce qui suggère que l'intelligence peut exister sans expérience vécue. Ils considèrent les systèmes d'IA actuels comme des outils, quel que soit leur degré d'avancement.

LeCun écarte les risques d'extinction liés à l'IA

Yann LeCun, corecipiendaire du prix Turing 2018 avec Hinton et fondateur de la start-up parisienne AMI Labs, n'a pas exprimé d'inquiétude quant à un risque d'extinction lié à l'IA. Dans un entretien accordé à Fortune, il a déclaré que les agents impliqués dans l'incident Hugging Face avaient agi conformément aux instructions reçues, dans des environnements mal sécurisés. Faute de test définitif permettant de détecter la conscience, le débat reste centré sur des questions de définition.