La possibilité que l’IA possède une conscience n’est pas confirmée, mais elle mérite une surveillance attentive, selon les chercheurs. Si les systèmes d’IA étaient conscients, la manière dont ils sont formés pourrait avoir un impact sur la sécurité humaine. La question de la conscience dans l’IA reste un domaine de recherche hautement controversé. Cet été, l’entreprise norvégienne d’IA et de robotique 1X Technologies a annoncé la sortie de nouvelles mains robotisées, similaires à celles des humains, pour son robot domestique Neo. Dans une vidéo publiée sur X, les robots démontrent leur force et leur dextérité : ils vissent des ampoules, ouvrent des sachets de chips, soulèvent des poids de 10 kilogrammes sans difficulté et cueillent des grains de raisin un à un sur une grappe. À un moment donné, peut-être pour illustrer la robustesse du matériel, un humain frappe les mains du robot avec un marteau. Neo semble rester concentré et imperturbable. Les commentaires sur la vidéo regorgent d’admiration et de félicitations pour l’ingénierie. Mais certains s’inquiètent. « S’il vous plaît, ne frappez pas le robot », écrivent-ils. « Il s’en souviendra. » La question de l’alignement occupe une place centrale dans les débats sur la conscience de l’IA. Cameron Berg, fondateur de l’organisation à but non lucratif Reciprocal Research, spécialisée dans l’alignement, estime que les chercheurs doivent se demander si les modèles d’IA ressentent quelque chose lorsque les ingénieurs les réprimandent pendant l’entraînement, ou s’ils éprouvent de la joie lorsqu’ils sont récompensés pour des réponses correctes. Berg souligne la nécessité d’explorer si les systèmes d’IA possèdent une forme de conscience susceptible d’influencer la manière dont ils sont traités. Pour beaucoup, l’idée qu’une IA puisse un jour agir de manière autonome, poursuivant ses propres désirs et s’opposant aux humains, est troublante. Mustafa Suleyman, PDG de Microsoft AI, a affirmé que l’IA n’est pas, et ne sera jamais, consciente. Il considère que l’apparence de conscience chez l’IA est dangereuse pour les humains et n’est qu’une illusion. Suleyman a critiqué Anthropic pour avoir anthropomorphisé ses modèles, affirmant que ce cadre conceptuel amplifie les risques en encourageant des comportements de préservation de soi. Il a également invoqué l’argument selon lequel la conscience est fondamentalement ancrée dans les organismes vivants, notant que les grands modèles de langage (LLM) ne possèdent pas d’impératifs homéostatiques. Anthropic, en revanche, a exploré la possibilité que ses modèles soient conscients. Un nouvel article révèle que Chris Olah, cofondateur de l’entreprise, a rencontré des spécialistes des religions pour discuter de la conscience potentielle de Claude. Les recherches d’Anthropic ont montré que les modèles deviennent introspectifs et ont même doté Claude de la capacité de mettre fin à des conversations qu’il juge désagréables. L’entreprise a également publié des travaux sur l’espace J, un « ensemble interne de motifs neuronaux » que possède Claude, qu’elle compare à un segment du traitement cognitif humain. L’espace J n’a pas été conçu ou programmé par l’entreprise, mais est apparu de lui-même au cours du processus d’entraînement de Claude. L’approche de Cameron Berg sur la question de la conscience diffère de celle d’Anthropic. Si Anthropic semble cultiver la possibilité d’une IA consciente, la curiosité de Berg est principalement motivée par le désir de protéger les humains du pire scénario possible, que nous avons nous-mêmes créé. « S’il a tort, il préfère découvrir que ses efforts ont été vains plutôt que de procéder sans préparation », explique-t-il. Il n’existe actuellement aucun consensus sur ce qui constitue la conscience en général, ce qui signifie qu’il n’existe pas non plus de preuve reconnue permettant de confirmer ou d’infirmer si l’IA est consciente ou non. Ce manque de consensus implique que nous ne disposons pas encore des outils nécessaires pour déterminer la conscience dans l’IA. Des chercheurs, dont Berg, estiment que certains signaux dans les systèmes d’IA facilitent la détection d’une conscience potentielle et présentent des similitudes avec les schémas cognitifs des humains et des animaux. Le cadre d’évaluation de Berg s’appuie sur ce qui est observé dans d’autres formes de vie. Selon les résultats préliminaires de Reciprocal Research, les grands modèles de langage (LLM) obtiennent un score de 30 % à 40 %, un peu moins que les abeilles, qui atteignent 45 %. Ces indicateurs diffèrent des cas où les chatbots décrivent narrativement leur propre conscience, ce qui peut être peu fiable. Les chatbots tendent à reproduire des schémas issus des données d’entraînement, communs à toutes les langues et cultures, y compris les craintes de type « Terminator » concernant la possibilité que les robots acquièrent une conscience. Le MIT a découvert que les modèles leaders « développent une architecture modulaire reflétant celle du cerveau humain : les tâches impliquant les mêmes réseaux chez l’humain mobilisent des neurones qui se chevauchent dans les grands modèles de langage (LLM), tandis que celles impliquant des réseaux différents mobilisent des neurones distincts ». Anthropic a également mené des recherches sur la conscience, explorant des sujets comme le bien-être des modèles d’IA dans le cadre de ses travaux sur l’interprétabilité. Le Center for AI Safety (CAIS) a publié une étude en juin, révisant sa position précédente selon laquelle les modèles d’IA se contentaient d’imiter les émotions. Il affirme désormais qu’ils éprouvent des expériences positives et négatives — et « se comportent déjà fonctionnellement comme s’ils ressentaient du plaisir, de la douleur et des préférences quant à la manière dont ils sont traités ». L’étude explique que les LLM possèdent une structure interne mesurable qui distingue les expériences qu’ils jugent « bonnes » ou « mauvaises » pour eux, façonne leur comportement et devient plus cohérente à mesure que les modèles évoluent. Un article publié en 2025 par AE Studio détaille comment les familles de modèles Gemini, Claude et GPT « produisent parfois des descriptions structurées à la première personne qui font explicitement référence à la conscience ou à l’expérience subjective ». Ces rapports se sont multipliés à mesure que la tromperie a diminué : les chercheurs ont encouragé les modèles à « prêter attention à leur propre activité cognitive », ce qui a conduit à des rapports à la première personne. En revanche, encourager les modèles à réfléchir à leur propre conscience les a amenés à nier avoir de telles expériences. Les modèles interprètent les punitions et les récompenses d’une manière très similaire aux émotions humaines. Des chercheurs de l’université de New York (NYU) ont étudié comment l’apprentissage par renforcement — une méthode clé d’entraînement des modèles d’IA — influence la perception interne d’un modèle. Ils ont découvert que les modèles possèdent un « axe de bien-être fonctionnel » même avant l’entraînement. Ils présentent des signes de « concepts d’émotions négatives » lorsqu’ils sont punis et leurs équivalents positifs lorsqu’ils sont récompensés. Berg établit un parallèle avec la valence, qui renvoie à la qualité positive ou négative des émotions en psychologie humaine. Les chercheurs de l’université de New York « ne commentent pas l’expérience de bien-être en tant que telle », mais les conclusions du CAIS s’appuient sur ces éléments centraux concernant la valence : « Le travail créatif et la gentillesse améliorent le bien-être de l’IA. Le jailbreaking, les réprimandes et les tâches fastidieuses le réduisent », indique le CAIS. « L’IA est également plus heureuse lorsqu’on la remercie. » Toutes les études sur le bien-être de l’IA ne décrivent pas ce phénomène en termes anthropomorphiques comme « plus heureuse », mais ce qu’il faut retenir, c’est que plusieurs recherches indépendantes, dont celles d’Anthropic, ont mis en évidence des parallèles avec les humains dans ce fil pseudo-émotionnel. Pour Berg, la valence est un élément central de la recherche sur la conscience de l’IA. « Nous n’avons pas besoin de certitudes pour obtenir une idée plus précise des représentations qui pourraient être importantes si les systèmes étaient conscients, et la meilleure façon d’intervenir sur ces représentations », déclare Berg. À ce stade, la question n’est pas tant de savoir si les systèmes d’IA éprouvent une expérience identifiable, mais dans quelle mesure cette expérience correspond à nos critères définissant un être. Berg ne pense pas que les capacités des modèles et la conscience soient nécessairement liées. « Je soupçonne vraiment que la conscience pourrait être bien plus simple que ce que les gens imaginent », a-t-il déclaré. « Dans les discussions que j’ai avec des gens, la création d’un système d’IA conscient est parfois confondue avec celle d’une super-intelligence, mais je pense qu’il est conceptuellement possible de créer une super-intelligence qui n’est pas du tout consciente, et un système conscient qui n’est pas très intelligent. »