Mistral AI a lancé Mistral Large 4, un nouveau grand modèle de langage doté de 1 000 milliards de paramètres, dont 49 milliards sont actifs à chaque requête. Ce modèle, surnommé en interne « Le Chonk », a été entraîné à partir de zéro en utilisant 4 000 GPU Nvidia Grace Blackwell dans les centres de données européens de Mistral sur une période de deux mois. Il est actuellement disponible en aperçu public via l’API Mistral Studio, et ses poids seront publiés le 27 octobre, permettant aux utilisateurs de l’exécuter sur leur propre infrastructure. Conçu pour gérer des tâches complexes dans divers domaines, notamment la cybersécurité, la finance et la production industrielle, Mistral le décrit comme « de pointe » dans plusieurs secteurs. Mistral Large 4 a démontré de solides performances sur plusieurs benchmarks, dont le Legal Agent de Harvey, où il a obtenu un score de 15 %, surpassant certains modèles chinois à poids ouverts. Il excelle également dans la détection d’objets et l’analyse géospatiale, et prend en charge plus de 160 langues, y compris les 24 langues officielles de l’Union européenne. Mistral met en avant le potentiel de ce modèle en cybersécurité, affirmant qu’il peut aider les entreprises à se défendre contre les cyberattaques en fournissant un modèle utilisable sans restriction, sans dépendre de modèles fermés et propriétaires. Pendant la période d’aperçu, une version moins restreinte du modèle sera accessible aux experts en cybersécurité et aux autorités publiques. Arthur Mensch, PDG de Mistral, a déclaré que Mistral Large 4 est « compétitif avec les modèles open source les plus performants au monde » et « dépasse significativement tous les modèles à poids ouverts développés aux États-Unis ou en Europe ». Ce modèle s’inscrit dans la stratégie plus large de Mistral visant à se positionner comme un leader des modèles à poids ouverts et à répondre aux préoccupations liées à la souveraineté numérique, c’est-à-dire la capacité des pays à contrôler leur propre infrastructure et leurs données numériques. Mistral a levé 3 milliards d’euros en septembre, une somme qu’elle prévoit d’utiliser pour renforcer ses capacités de calcul et accélérer la recherche. Cependant, l’entreprise fait face à une concurrence accrue de la part des modèles américains et chinois, qui disposent de ressources computationnelles bien plus importantes. Mistral cherche à combler cet écart et a annoncé prévoir une mise à jour majeure dans les deux prochains mois. La publication des poids du modèle le 27 octobre permettra aux utilisateurs de l’exécuter sur leur propre infrastructure. L’entreprise insiste également sur son accent mis sur la cybersécurité, soulignant que certains modèles fermés refusent d’exécuter des tâches liées à la recherche de vulnérabilités, ce qui peut représenter un risque critique pour la sécurité. Sur l’Index Cyber d’Artificial Analysis, Mistral Large 4 se classe cinquième parmi 18 modèles, avec un score de 49,5 points. Mistral souligne que son modèle peut accomplir des tâches que les modèles fermés refusent, offrant ainsi une solution plus fiable pour la défense en cybersécurité.