Apple propose un système de calcul partagé

Des chercheurs d'Apple ont présenté un système baptisé Minions, conçu pour transformer un groupe de Mac équipés de puces Apple Silicon en ressource partagée pour des tâches d'intelligence artificielle. Ce système permet aux utilisateurs de mettre à profit les processeurs graphiques (GPU) inutilisés de leurs Mac existants, sans qu'il soit nécessaire d'ajouter une infrastructure serveur supplémentaire.

Fonctionnement de Minions

Le système repose sur un serveur central auquel les utilisateurs soumettent leurs tâches. Ce serveur divise les tâches en parties plus petites et indépendantes, et suit leur progression à l'aide d'une base de données PostgreSQL. Chaque Mac participant récupère ensuite une tâche, télécharge les données nécessaires et effectue le calcul grâce à son GPU.

Tâches prises en charge et circulation des données

Actuellement, Minions prend en charge deux types de tâches : la génération d'embeddings, c'est-à-dire des représentations numériques utilisées dans les moteurs de recherche pour relier des documents en fonction de leur sens, et l'exécution de réponses issues de modèles de langage via Ollama. Ces modèles sont téléchargés au besoin et stockés sur le Mac pour une utilisation ultérieure. Les données d'entrée et les résultats sont conservés temporairement dans AWS S3, ce qui relie le calcul local à l'infrastructure cloud.

Approche distribuée et similitudes

Minions ne regroupe pas plusieurs Mac en une seule machine : il répartit plutôt les tâches entre plusieurs ordinateurs, chacun utilisant ses propres ressources. Cette approche rappelle le programme Seti@Home, qui utilise lui aussi le calcul distribué pour analyser des données à la recherche de signaux extraterrestres.

Difficultés liées aux ordinateurs personnels

Un problème potentiel de l'utilisation d'ordinateurs personnels plutôt que de serveurs de centre de données tient au fait que leurs utilisateurs peuvent les éteindre ou s'en servir à d'autres fins. Pour y remédier, chaque Mac envoie régulièrement un « signal de vie » au réseau. Si une machine se déconnecte ou arrête le programme, la tâche interrompue est renvoyée dans la file d'attente, où un autre Mac peut la reprendre.

Organisation informelle et gestion des tâches

Le système fonctionne de manière quelque peu informelle : des collègues utilisent Slack pour demander le lancement du programme et partager temporairement leurs ressources GPU. Certaines tâches qui prenaient auparavant plus de dix heures sur des systèmes centralisés peuvent désormais démarrer en quelques minutes avec Minions, même si l'avantage tient davantage à la réduction des temps d'attente qu'à une hausse de la vitesse.

Limites et contexte

Les chercheurs n'ont fourni ni le nombre précis de Mac utilisés, ni des indicateurs de performance détaillés, ni de données sur la consommation énergétique permettant une comparaison avec les serveurs GPU traditionnels. L'affirmation de « coût zéro » signifie seulement qu'il n'est pas nécessaire d'acheter du matériel neuf, même si l'électricité, le stockage et la gestion entraînent toujours des coûts. Minions est présenté comme un retour d'expérience de chercheurs d'Apple, et non comme une fonctionnalité prévue de macOS, l'accent étant mis sur l'utilisation des ressources existantes avant d'investir dans de nouvelles.