Anthropic introduit une nouvelle politique d'utilisation de l'IA interdisant les abus extrêmes de ses modèles, en vigueur à partir du 12 novembre.
Anthropic met à jour ses règles d'utilisation de l'IA
Anthropic, une entreprise qui développe des modèles d'intelligence artificielle, a introduit une nouvelle politique le 8 octobre 2026, destinée à prévenir les interactions nuisibles avec ses systèmes d'IA. La politique vise en particulier les « abus soutenus et gratuits », c'est-à-dire les mauvais traitements répétés et injustifiés infligés aux modèles, sans objectif clair.La politique définit les comportements acceptables
Selon les nouvelles directives, les utilisateurs peuvent exprimer leur agacement, contester les réponses de l'IA, aborder des thèmes sombres dans leurs écrits créatifs et participer aux tests de robustesse menés par des chercheurs. Ces activités sont considérées comme normales et ne relèvent pas des comportements interdits.L'interdiction prend effet en novembre
La nouvelle règle entrera en vigueur le 12 novembre. Elle ajoute les abus envers l'IA à une liste d'activités interdites qui comprend déjà la diffusion de propagande et la mise au point d'armes utilisant la technologie de l'IA. Cette mesure reflète une préoccupation croissante concernant l'usage éthique de l'intelligence artificielle.L'IA peut autoréguler les échanges
Claude, l'un des assistants d'IA d'Anthropic, peut désormais mettre fin de lui-même aux conversations jugées trop agressives. Cette fonctionnalité est en cours de test afin de mieux comprendre comment protéger les modèles d'IA contre les interactions nuisibles. Toutefois, la politique ne mentionne pour l'instant aucune sanction automatique ni aucune restriction de compte en cas de non-respect des règles.
