Coût des interactions avec l'IA

Le coût d'une interaction avec des modèles d'IA comme ChatGPT et Claude ne tient pas seulement aux messages individuels, mais à l'ensemble de l'historique de la conversation. Un message publié sur LinkedIn estimait qu'avec 120 millions d'utilisateurs envoyant chacun huit « merci » par jour, le total annuel pourrait atteindre 350 milliards d'interactions. Chaque « merci » peut sembler anodin, mais il inclut souvent des milliers de jetons correspondant aux échanges précédents, ce qui augmente considérablement la consommation d'énergie et les coûts.

Consommation d'énergie par message

Pour un seul « merci » adressé à un modèle de la taille de Claude Sonnet 5.5, la consommation d'énergie est estimée à 23 GWh par an. Les modèles plus petits en consomment moins de 1 GWh. Cependant, l'inclusion de l'historique complet de la conversation à chaque message multiplie par dix la consommation d'énergie, ce qui porte le coût annuel de ces interactions à environ 3,6 milliards de dollars.

Les lectures en cache réduisent les coûts

Pour maîtriser les coûts, des entreprises comme Anthropic utilisent un système de cache qui permet de lire à moindre coût l'historique de conversation déjà traité. Une lecture en cache est facturée entre 10 et 40 fois moins cher qu'un nouveau jeton d'entrée, selon le modèle. Des outils open source comme claude-carbon estiment ce coût à environ 8 % d'un jeton d'entrée. Toutefois, les conversations longues entraînent malgré tout des coûts plus élevés, même avec la mise en cache.

Les conversations longues réduisent la fiabilité

Des recherches menées en 2023 et en 2025 montrent que les conversations longues diminuent la fiabilité des modèles d'IA. Une étude de 2026 intitulée « Reasoning Shift » a constaté que les modèles raisonnent moins et vérifient moins leur travail lorsqu'ils disposent d'un long historique de conversation. Par exemple, le modèle o1 d'OpenAI répond correctement dans 92 % des cas avec un contexte de 4 000 jetons, mais seulement dans 31 % des cas avec 32 000 jetons.

Gérer efficacement les conversations

La solution au problème des conversations longues, coûteuses et peu fiables ne consiste pas à améliorer les modèles, mais à s'organiser avant de commencer. La méthode de la « conversation mère » consiste à créer une conversation directrice qui fixe l'objectif, découpe le travail en tâches et conserve une vue d'ensemble. Chaque projet dispose d'une conversation mère qui guide le travail et ne produit pas directement de résultats.

Des conversations filles pour les tâches

Chaque tâche est traitée dans une « conversation fille » distincte, lancée par un bref message émis depuis la conversation mère. Ces conversations filles sont de courte durée, centrées sur une tâche précise, puis fermées. La conversation mère rassemble les synthèses produites par chaque conversation fille, que l'utilisateur peut relire, corriger ou réécrire avant de les transmettre.

Un choix efficace du modèle

Chaque conversation fille démarre avec le modèle le mieux adapté à sa tâche, qu'il s'agisse d'un petit modèle pour la mise en forme ou d'un modèle plus puissant pour une analyse complexe. Cette approche garantit l'utilisation du bon modèle pour chaque tâche, sans coût ni complexité inutiles. La méthode évite aussi de changer de modèle en cours de route, ce qui réduit à la fois les coûts et les risques d'erreur.

Des pratiques d'IA durables

Trois avantages de cette méthode se renforcent mutuellement : choisir le bon modèle sans changement en cours de tâche, garder des conversations courtes par conception, et s'assurer que chaque modèle travaille dans son domaine de fiabilité. Les pratiques durables comprennent des instructions globales précises et un dossier de sortie dédié à chaque projet. Chaque projet est numéroté et organisé, ce qui facilite le suivi et la récupération des livrables.

Transparence et étiquetage écologique

Pour garantir un usage responsable de l'IA, la transparence est essentielle. Les fournisseurs devraient publier des données de consommation énergétique par jeton lu, écrit et mis en cache, indépendamment des tarifs de facturation. Un « label vert » proposé pour les applications d'IA pourrait reposer sur des critères tels que l'efficacité en jetons, la discipline de mise en cache, la suffisance du modèle, la gestion du contexte et la transparence. La méthode de la conversation mère répond à trois de ces critères, en privilégiant des tâches bornées, des modèles appropriés et des contextes clos. La transparence reste l'exigence fondamentale de tout label vert.