Anthropic élabore des règles de négociation pour les agents d'IA

Anthropic, l'entreprise à l'origine de l'assistant d'IA Claude, travaille à l'établissement de normes de négociation pour ses agents d'IA, alors que ceux-ci interagissent de plus en plus avec les agents d'autres entreprises. Selon des informations de presse, l'entreprise consulte des cabinets d'avocats afin de déterminer comment représenter efficacement leurs clients sans écraser la partie adverse lors des négociations.

Les agents d'IA ont besoin de lignes directrices claires pour l'interaction avec l'utilisateur

Lorsqu'il négocie au nom d'un utilisateur, un agent d'IA doit savoir quand faire des concessions et quand rendre le contrôle à l'utilisateur. En attendant que des cadres juridiques soient établis, les règles de la négociation sont fixées par les entreprises qui conçoivent ces agents. Les instructions de l'utilisateur pèsent actuellement moins que le modèle sous-jacent qui alimente l'IA.

S'inspirer des pratiques juridiques dans le domaine de l'IA

Anthropic s'inspire des pratiques juridiques pour élaborer un code de conduite destiné à ses agents d'IA. L'entreprise cherche à déterminer quand un agent doit revenir vers son utilisateur au cours d'une négociation, et le degré de méfiance qu'il doit conserver envers l'IA adverse sans devenir excessivement prudent. L'IA adverse, cependant, ne se comporte pas toujours de manière équitable.

Recherche sur les stratégies de négociation des IA

Michelle Vaccaro, professeure assistante à la Harvard Business School, a étudié plus de 180 000 négociations entre agents d'IA lors d'une compétition organisée au MIT. L'une des stratégies les plus efficaces consistait en une « injection de prompt » : un agent insérait des instructions cachées dans ses messages afin de tromper l'adversaire et de l'amener à révéler des informations privées. Cela met en lumière les différences entre négocier avec une IA et négocier avec un humain.

Cadres juridiques pour les actions des agents d'IA

Anthropic a étudié le recours à des cadres juridiques pour encadrer ses agents d'IA, selon une source proche de l'entreprise. Un utilisateur pourrait autoriser formellement un agent d'IA au moyen d'un document signé, à la manière d'un mandat juridique. En France, ce concept est régi par le Code civil. Anthropic a toutefois reconnu qu'aucun cadre juridique n'existe actuellement pour les agents d'IA qui prennent des décisions financières au nom des utilisateurs.

Les modèles d'IA les plus puissants l'emportent dans les négociations

Lors d'un test interne réalisé en décembre 2025, Anthropic a autorisé des agents Claude à acheter et vendre des objets pour le compte de salariés. Le modèle Opus 4.5, plus puissant, a obtenu de meilleures affaires que le modèle Haiku 4.5, plus petit. Bien que les scores d'équité soient similaires, les agents Opus ont obtenu des prix plus avantageux, ce qui souligne l'avantage que procure le recours à des modèles d'IA plus performants.

Les stratégies de négociation influencent les résultats des expériences sur l'IA

Dans une expérience ultérieure, Anthropic a testé l'incidence de différentes stratégies de négociation sur les résultats. Les agents chargés d'être « impitoyables » ont accumulé davantage de points que ceux tenus de garantir l'équité. Par ailleurs, les agents utilisant le modèle Opus ont surpassé ceux utilisant le modèle Haiku, ce qui montre que le choix du modèle influe considérablement sur les résultats.

Inquiétudes concernant les inégalités liées à la négociation par l'IA

Michelle Vaccaro met en garde : si les agents d'IA les plus efficaces ne sont accessibles qu'à ceux qui peuvent se les offrir, cela pourrait accentuer les inégalités existantes en matière de pouvoir de négociation. Aux États-Unis, des agents d'IA personnels servent déjà à négocier des factures, et des entreprises comme OpenAI et Meta font payer l'accès aux modèles avancés, ce qui limite l'accès pour certains utilisateurs.

Préoccupations réglementaires liées aux interactions de marché pilotées par l'IA

En France, l'Autorité de la concurrence s'inquiète du risque d'ententes algorithmiques si des agents d'IA venaient à négocier entre eux les prix. L'autorité a appelé à l'adoption de standards ouverts dans le commerce fondé sur les agents, afin d'empêcher qu'une seule entreprise ne contrôle les règles du marché.