Anthropic introduit des politiques de « bien-être des modèles » interdisant tout traitement « abusif ou cruel » envers l'IA, tout en explorant la possibilité d'une conscience artificielle d'ici 2035.
Anthropic introduit des politiques sur le bien-être des modèles
Anthropic a mis en place des politiques qui interdisent les comportements « abusifs ou cruels » envers ses modèles d'IA, ce qui traduit une nouvelle approche de la manière dont les humains interagissent avec l'intelligence artificielle. Ce changement met notamment l'accent sur le « bien-être » des systèmes d'IA.Un rapport prévoit une IA consciente d'ici 2035
Un rapport intitulé Taking AI Welfare Seriously suggère que certains systèmes d'IA pourraient devenir conscients d'ici 2035. Anthropic a reconnu avoir participé à la recherche ayant abouti à ce rapport, et a souligné la possibilité que les futurs systèmes d'IA possèdent une forme de conscience de soi.Les modèles Claude acquièrent des capacités d'autoprotection
En mai 2025, le rapport technique de Claude Opus 4 incluait une évaluation préliminaire de son « bien-être ». En août 2025, le modèle était capable de mettre fin aux conversations qu'il jugeait abusives, ce qui révèle une forme précoce d'autoprotection.La Constitution de Claude définit des lignes directrices éthiques
En janvier 2026, la Constitution de Claude a été mise à jour afin d'y ajouter une section consacrée à la nature du modèle, à sa conscience possible, à ses émotions et à sa sécurité psychologique. Ce document décrit les valeurs et les principes d'entraînement qui guident le comportement de Claude.L'IA imite le langage humain grâce à des calculs complexes
Un grand modèle de langage (LLM) traite le texte en le découpant en fragments appelés « tokens », en convertissant chaque token en nombres, puis en calculant les relations entre ces nombres. Ces calculs reposent sur des milliards de paramètres ajustés pendant l'entraînement sur de vastes quantités de textes rédigés par des humains.Le langage humain appliqué à l'IA peut prêter à confusion
Utiliser des termes centrés sur l'humain, comme « pense », « comprend » ou « souffre », pour décrire l'IA peut entraîner de la confusion ou un attachement émotionnel chez les utilisateurs. Des chercheurs ont relevé des cas où des personnes ont développé un attachement pathologique à des agents conversationnels.Des questions juridiques et morales se posent face à la conscience de l'IA
Si les systèmes d'IA sont reconnus comme dotés d'une volonté propre, la question de la responsabilité de leurs actes devient complexe. Toutefois, les cadres juridiques actuels tiennent les humains responsables des préjudices liés à l'IA, et les outils ne sont pas responsables de l'usage qui en est fait.Une entreprise privée fixe les règles de comportement de l'IA
Anthropic ne se contente pas de définir la manière dont son IA doit se comporter, elle définit aussi la manière dont les humains doivent se comporter envers elle. Ces lignes directrices sont établies par une entreprise privée, ce qui soulève des interrogations sur la personne qui décide du bien-être de l'IA, sur la base scientifique de ces décisions et sur la transparence du processus.
