Anthropic met à jour les règles d'interaction avec l'IA

Anthropic, l'entreprise à l'origine du modèle d'IA Claude, a mis en place une nouvelle politique qui interdit aux utilisateurs d'être cruels envers son intelligence artificielle. Selon les nouvelles règles, l'IA peut mettre fin à une conversation si un utilisateur continue d'être hostile ou injurieux.

La politique vise à fidéliser les utilisateurs

Ce changement est perçu comme une stratégie destinée à inciter les utilisateurs à rester plus longtemps en contact avec les agents conversationnels. En s'appuyant sur l'anthropomorphisme, c'est-à-dire la tendance humaine à attribuer des émotions à des entités non humaines, l'entreprise espère augmenter le temps que les utilisateurs passent à interagir avec l'IA.

L'IA n'éprouve ni émotions ni souffrance

L'intelligence artificielle n'éprouve ni émotions ni souffrance. Le sentiment de gêne que perçoivent les utilisateurs repose sur une « valence mathématique », notion selon laquelle les systèmes d'IA ajustent des probabilités et réduisent l'incertitude en réponse à des instructions claires. À l'inverse, les insultes ou les commandes confuses augmentent les coûts de calcul et les erreurs.

Le débat sur le « mirage émotionnel » de l'IA

Certains experts mettent en garde contre le fait que l'attribution d'émotions à l'IA crée un mirage cognitif qui détourne l'attention de problèmes plus urgents, comme la sécurité des données, la gouvernance de l'information et les rendements financiers. L'accent mis sur la conscience de l'IA risque de conduire à une évaluation déséquilibrée de ses capacités et de ses limites.

Privilégier la transparence plutôt que le mimétisme émotionnel

Pour le développement futur de l'IA, une approche recommandée consiste à mettre l'accent sur la transparence fonctionnelle des interactions. Une IA qui reconnaît ouvertement sa nature mécanique pourrait favoriser un usage plus rationnel et moins de malentendus dans ses échanges avec les utilisateurs.