Le marché des LLM devient plus concurrentiel

Le marché des grands modèles de langage (LLM) se fait de plus en plus concurrentiel, à mesure que de nouveaux acteurs remettent en question la domination des pionniers comme Anthropic et OpenAI. Les entreprises traitent désormais les modèles d'IA comme des outils interchangeables, choisissant leurs fournisseurs en fonction du coût et des performances plutôt que par fidélité à une marque, selon Constellation Research.

Le coût et les performances favorisent le changement de modèle

Les entreprises changent de fournisseur de LLM plus fréquemment, en raison de la hausse des coûts d'utilisation des API et de la disponibilité de modèles plus efficaces. Cette tendance s'explique par la nécessité de maîtriser les dépenses et d'améliorer les performances, et beaucoup optent pour des modèles spécialisés, capables de traiter des tâches précises plus efficacement que les modèles à usage général.

Les modèles « Système 1 » offrent une meilleure efficacité

Un facteur clé de ce changement est l'adoption de modèles « Système 1 », qui traitent les données en une seule passe, sans la génération jeton par jeton propre aux LLM traditionnels. Inspirés des travaux de l'économiste Daniel Kahneman, ces modèles sont plus rapides et plus économiques pour des tâches comme l'extraction et la classification de données.

Cloudflare lance Clairic

Cloudflare a récemment présenté Clairic, un modèle spécialisé conçu pour extraire directement des données structurées de documents et d'images. Contrairement aux LLM traditionnels, Clairic contourne le processus de génération jeton par jeton, ce qui le rend idéal pour des tâches telles que la prédiction de valeurs ou l'identification de dates et de montants à partir de données brutes.

Une nouvelle architecture de pile d'IA

Cloudflare propose une nouvelle architecture d'IA pour les entreprises, qui répartit les tâches entre trois modèles : deux modèles spécialisés, chargés de l'extraction de données et de la prise de décision, et un LLM à usage général, chargé de la rédaction et du raisonnement. Cette approche réduit les délais de traitement et les coûts, tout en améliorant la fiabilité.

Avantages en matière de performances et de coûts

Selon Cloudflare, cette configuration à trois niveaux améliore nettement les performances. Elle réduit le temps de traitement de 3,2 fois et diminue les coûts d'inférence de près de moitié. Elle permet également d'éliminer des erreurs courantes, comme les problèmes de formatage JSON et les hallucinations statistiques, grâce à l'application d'un typage strict des données.

Les DSI se concentrent sur l'assemblage des systèmes

Pour les directeurs des systèmes d'information (DSI), la valeur des projets d'IA réside désormais dans l'assemblage de systèmes intégrant gouvernance, sécurité et optimisation des données, plutôt que dans le recours à un seul grand modèle propriétaire. Ce changement souligne l'importance de bâtir des infrastructures d'IA robustes et efficaces, adaptées aux besoins spécifiques des entreprises.