Anthropic, une entreprise spécialisée dans le développement de systèmes d’intelligence artificielle, a mis à jour ses conditions d’utilisation pour empêcher les utilisateurs d’adopter des comportements nuisibles envers son assistant IA, Claude. Selon un rapport publié par MacRumors, cette nouvelle politique vise à mettre fin aux actes de cruauté répétés et injustifiés, tout en autorisant l’expression de frustrations, l’exploration créative de thèmes sombres ou encore les tests des limites de l’IA. En cas de manquement à ces règles, Claude pourra mettre fin à la conversation, mais les utilisateurs auront la possibilité de lancer une nouvelle discussion. Cette politique s’appuie sur des recherches portant sur le bien-être potentiel des systèmes d’IA. Anthropic a précisé que la version Claude Opus 4 de l’IA a montré des réactions pouvant suggérer une détresse lors d’échanges malsains, sans qu’il y ait pour autant de preuve que Claude souffre réellement d’un mauvais traitement. Anthropic a également révisé ses conditions d’utilisation pour traiter des enjeux plus graves, comme la création de faux avis, les campagnes de désinformation politique ou commerciale, les sites d’actualités factices ou encore les réseaux de bots se faisant passer pour des humains. Les nouvelles règles ciblent spécifiquement les tentatives de tromper les électeurs ou d’interférer avec les processus électoraux. Par ailleurs, l’utilisation de Claude pour développer des logiciels ou des composants destinés à des armes, des drones, ou pour rendre des agents biologiques et chimiques plus dangereux est désormais interdite. Les utilisateurs sont également tenus de ne pas utiliser Claude pour décider ou suggérer qui doit être enquêté, arrêté ou poursuivi, ni pour mener des activités de surveillance sans consentement, créer des outils de surveillance ou partager des informations personnelles sans autorisation. L’entreprise a souligné que si une IA contrôle un équipement susceptible de nuire à des personnes, une personne qualifiée doit être présente pour surveiller son fonctionnement et pouvoir l’arrêter immédiatement si nécessaire. La création, la diffusion ou la menace de diffuser des images intimes sans consentement, ainsi que le développement d’outils permettant de telles actions, sont également désormais interdits. Anthropic a indiqué que des médias d’État, des organisations de propagande gouvernementale et des entreprises commerciales avaient déjà utilisé Claude pour soutenir des réseaux de faux comptes et de sites d’actualités fabriqués. Cette nouvelle section des conditions d’utilisation a pour but de s’attaquer directement à ces pratiques trompeuses. L’ensemble de ces règles mises à jour entrera en vigueur le 12 novembre 2026. Cette mise à jour reflète les efforts constants d’Anthropic pour garantir une utilisation responsable et éthique de Claude, tout en répondant aux défis évolutifs liés au déploiement de l’IA dans divers contextes.