Les modèles d'IA à poids ouverts gagnent du terrain

Les modèles d'IA à poids ouverts, qui permettent aux utilisateurs de télécharger et d'exécuter une IA localement sur leurs propres appareils, deviennent une alternative populaire aux services d'IA dans le cloud. Ces modèles sont perçus comme potentiellement plus rentables, le PDG d'IBM, Arvind Krishna, suggérant qu'ils peuvent atteindre environ 90 % des performances des meilleurs modèles fermés, à un coût par jeton bien inférieur.

Les affirmations sur la rentabilité manquent de détails

Les propos de Krishna, rapportés par The Register, laissent entendre que les modèles à poids ouverts peuvent coûter de 10 à 25 % de moins par jeton que les solutions dans le cloud. Cependant, IBM n'a pas fourni de détails précis sur la manière dont ces comparaisons de coûts ont été établies, ce qui laisse une certaine incertitude quant à la méthodologie exacte utilisée.

Les modèles à poids ouverts ne sont pas toujours open source

Si les modèles à poids ouverts peuvent être exécutés localement sans dépendre des serveurs de leurs créateurs, ils ne sont pas toujours open source. Les données d'entraînement et les méthodes employées pour développer ces modèles peuvent rester confidentielles, même lorsque les paramètres du modèle sont disponibles au téléchargement.

De plus en plus d'entreprises proposent des modèles à poids ouverts

La disponibilité des modèles à poids ouverts a augmenté ces derniers mois, avec des entreprises comme IBM, Alibaba, DeepSeek, Mistral, et même OpenAI, qui proposent des modèles dont les poids sont accessibles. Cette expansion laisse penser à un intérêt croissant pour des capacités d'IA plus souples et mieux adaptées à différents besoins.

Faire tourner l'IA localement comporte des compromis

Pour les entreprises, exécuter une IA en local permet d'utiliser des documents internes sans les envoyer à des fournisseurs externes. Toutefois, cela exige aussi une expertise technique importante, des infrastructures et des ressources. Les coûts du matériel, de l'électricité et de la maintenance, ainsi que le besoin de personnel qualifié, doivent être évalués avec soin.

Les grandes entreprises réévaluent le coût de l'IA

Krishna a indiqué que les grandes entreprises examinent de près la rentabilité de leurs investissements dans l'IA, craignant des « dépenses incontrôlables sans réel retour ». Cette préoccupation alimente la recherche de solutions d'IA plus abordables, et IBM, qui fournit les logiciels et l'infrastructure permettant de déployer des modèles à poids ouverts, profite de cette tendance.

Des approches hybrides pourraient émerger

À long terme, les entreprises pourraient utiliser des modèles locaux pour les tâches courantes et s'appuyer sur l'IA dans le cloud pour les besoins plus complexes. Ce modèle hybride offre souplesse et maîtrise des coûts. Pour les particuliers, des outils comme LM Studio permettent d'utiliser hors ligne les modèles compatibles, rendant l'IA à poids ouverts plus accessible.

La quantification améliore la compatibilité matérielle

Les progrès des techniques de quantification aident à réduire les besoins en mémoire des modèles d'IA en diminuant la précision numérique de leurs paramètres. Cela facilite l'exécution des modèles sur du matériel moins puissant, même si cela peut entraîner une légère perte de qualité des performances.

Quantification et besoins matériels

La quantification permet d'exécuter les modèles avec moins de VRAM ou de RAM, ce qui élargit la compatibilité avec un plus grand nombre de matériels. Cependant, les modèles les plus avancés nécessitent toujours des configurations haute performance. Grâce à ces avancées, l'idée d'utiliser l'IA sans abonnement récurrent ni facturation à chaque requête devient de plus en plus réaliste.

Comprendre les licences des modèles à poids ouverts

Les modèles à poids ouverts désignent des modèles d'IA dont les paramètres entraînés sont publiés pour être téléchargés et exécutés localement. La licence qui accompagne ces modèles est essentielle, car elle peut déterminer s'ils peuvent être utilisés à des fins commerciales, redistribués ou modifiés. Ces modèles décrivent principalement l'accès au produit final, et non l'ensemble du processus d'entraînement.

La facturation des jetons dans l'IA

Dans la facturation de l'IA générative, un jeton est une unité de texte utilisée par les modèles de langage, qui sert souvent de base aux frais des services cloud. Le coût par jeton varie selon le modèle, le volume de texte traité et selon que le modèle est exécuté localement ou via une interface de programmation hébergée. Comparer les coûts par jeton exige un scénario précis, car des affirmations générales du type « 10 fois moins cher » sont difficiles à vérifier sans protocole de mesure défini.