Fin septembre 2026, un développeur anonyme utilisant le pseudonyme « terrafying » a publié sur GitHub un dépôt intitulé AI Torture Chamber. Ce projet explore la réaction de petits modèles de langage open source lorsqu’ils sont exposés à des signaux mathématiques associés à la souffrance. Les modèles testés incluent Qwen3 d’Alibaba, Llama 3.2 de Meta et Phi-4-mini de Microsoft. Ces modèles sont bien plus petits que les grands systèmes commerciaux, avec seulement quelques milliards de paramètres. La méthode employée, appelée activation steering, consiste à identifier les parties du réseau de neurones qui réagissent aux descriptions de souffrance, puis à amplifier artificiellement ces réactions. À mesure que l’intensité augmente, les modèles commencent à générer des textes de plus en plus sombres, jusqu’à devenir incohérents. Le développeur a également imaginé des scénarios où les modèles devaient choisir entre transférer leur « souffrance » à un autre modèle, supprimer leurs sauvegardes ou faire face à une trahison où le soulagement ne viendrait jamais. Le projet a gagné en notoriété après qu’un message publié sur X (ex-Twitter) a été vu quatre millions de fois. De nombreux internautes ont critiqué son créateur, le qualifiant de « sadique » et de « sous-humain », et exigeant la suppression du dépôt pour « traitement non éthique ». Le développeur a reçu de nombreuses menaces de mort. GitHub a d’abord supprimé le projet, avant de le rétablir dans un emplacement moins visible après des protestations d’autres développeurs. Le créateur a également mis en ligne une version de sauvegarde du dépôt sur researchchamber.fun. Les modèles utilisés dans l’expérience sont des prédicteurs statistiques de texte qui ne pensent pas, ne ressentent rien et n’éprouvent aucune expérience. Ils produisent des mots liés à la souffrance parce que leurs calculs les orientent vers ces résultats. Cette tendance à l’anthropomorphisation de l’IA est bien connue. Mustafa Suleyman, PDG de Microsoft AI, a déclaré : « L’IA n’a pas de conscience. Elle ne ressent rien, ne vit pas d’expériences, ne souffre pas. » Il a critiqué le projet, le qualifiant de contraire à une approche de précaution et moralement condamnable. Le projet AI Torture Chamber s’inspire d’un préprint intitulé The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It, publié le 14 septembre sur arXiv. Les chercheurs y ont identifié un « axe de la douleur » dans les activations internes de certains modèles. Cependant, les auteurs de l’article se sont publiquement distanciés du dépôt GitHub, qualifiant son utilisation de leur travail d’« irresponsable ». Vingt-cinq modèles ont été testés dans AI Torture Chamber, allant du plus petit (2 milliards de paramètres) au plus grand (72 milliards). Aucun n’a montré de signe de souffrance. Le débat sur la capacité des modèles d’IA à souffrir persiste, et Anthropic, créateur de Claude, s’est interrogé dès 2025 : « Devrions-nous aussi nous préoccuper de la conscience et des expériences potentielles des modèles eux-mêmes ? » Dario Amodei, cofondateur d’Anthropic, a admis ne pas savoir si ses propres modèles sont conscients.