Julien Simon examine le modèle Core Advanced d'Apple

Julien Simon, ancien chief evangelist chez Hugging Face, a publié le 25 octobre une analyse détaillée du modèle de langage Core Advanced d'Apple dans sa lettre d'information The AI Realist. Apple n'ayant pas publié de fiche officielle du modèle, il en a reconstitué une à partir d'un MacBook Pro M3 Max doté de 48 Go de mémoire.

Consommation de ressources de Core Advanced

Les mesures de Simon montrent qu'un modèle de 20 milliards de paramètres comme Core Advanced consomme autant de mémoire et d'énergie qu'un modèle de 4 milliards de paramètres sur les Mac d'Apple. Cela tient à la manière dont le modèle est structuré et géré au sein du matériel.

Capacités et déploiement de Core Advanced

Apple a présenté Core Advanced le 8 juin 2026, lors de la WWDC, le décrivant comme le plus grand de ses deux modèles embarqués dans une famille de cinq modèles « conçus sur mesure en collaboration avec Google ». Il compte 20 milliards de paramètres, dont seulement 1 à 4 milliards sont actifs à un moment donné, utilisés pour des fonctionnalités comme les nouvelles voix expressives de Siri et la dictée.

Configuration matérielle requise pour Core Advanced

Apple réserve Core Advanced aux Mac dotés d'au moins 12 Go de mémoire unifiée, comme les Mac M3 ou les modèles plus récents. Sur les appareils mobiles, il alimente l'iPhone Air, les iPhone 17 Pro et 17 Pro Max, ainsi que les iPad M4 ou plus récents dotés de 12 Go de mémoire.

Architecture de Core Advanced

Core Advanced repose sur une architecture à mélange d'experts (MoE), dans laquelle chaque couche est divisée en réseaux spécialisés. Contrairement aux modèles MoE traditionnels, Apple conserve le modèle complet en stockage et sélectionne dynamiquement un sous-ensemble d'experts lors d'une requête, ce qui réduit l'utilisation de la mémoire.

Performances de Core Advanced sur le matériel

Le modèle fonctionne sur le Neural Engine, une puce d'IA dédiée présente dans le M3 Max, et consomme environ 4 watts. Le processeur graphique (GPU) reste inactif pendant ces opérations, ce qui indique que le Neural Engine est le principal composant chargé des tâches d'IA.

Mémoire et compression de Core Advanced

Simon estime que les poids du modèle sont compressés à environ 2 bits chacun. Deux modèles de sécurité de 300 millions de paramètres chacun fonctionnent séparément et filtrent les requêtes. Lors d'une requête longue, ils ont utilisé jusqu'à 3,4 Go de mémoire, contre 15 Go pour un modèle open source comparable.

Résultats de Core Advanced aux tests de performance

Lors des tests, Core Advanced a résolu seulement 13 problèmes sur 20, contre 20 pour le meilleur modèle ouvert, Qwen3 4B. Il s'est mieux comporté sur les questions de culture générale, mais a été en retrait sur le raisonnement logique et les calculs élémentaires, ce qui correspond à la documentation d'Apple qui déconseille de l'utiliser pour de telles tâches.

Comparaison avec les modèles open source

Le modèle d'Apple est plus efficace sur le plan énergétique, mais moins précis sur certaines tâches que des modèles open source comme Gemma 4 26B A4B et Qwen3 4B. Cet écart de performance peut s'expliquer en partie par les techniques de compression utilisées, Apple employant 2 bits par poids, un niveau proche des méthodes les plus avancées.

Retard du rapport technique d'Apple

Apple avait promis de publier un rapport technique sur Core Advanced d'ici l'été, mais à la date du 25 octobre, il n'avait toujours pas été publié. Ce retard pourrait pénaliser les développeurs et les chercheurs qui cherchent des informations plus détaillées sur la conception et les capacités du modèle.