Les systèmes d'intelligence artificielle évoluent vers une approche distribuée, où un agent principal IA assigne des tâches spécifiques à plusieurs agents secondaires plus petits et spécialisés. Cette méthode vise à améliorer la précision des réponses, mais elle entraîne également un grand nombre de tâches traitées simultanément. Lorsqu'un seul ordinateur tente de gérer toutes ces tâches de manière séquentielle, les performances peuvent chuter, provoquant des retards pour l'utilisateur. Pour répondre à ce défi, Nvidia a introduit un outil open source en phase bêta nommé NVIDIA PAIR (Personal AI Router). Cet outil agit comme un intermédiaire, reliant plusieurs ordinateurs sur un réseau privé pour former un cluster IA flexible. Plutôt que de remplacer les outils de traitement IA existants, PAIR se situe entre l'utilisateur et des cadres populaires tels que Ollama et LM Studio, dirigeant chaque tâche vers un ordinateur disponible et capable de la gérer. Selon Seth Schneider, qui supervise le logiciel de la plateforme GeForce chez Nvidia, PAIR examine les exigences de chaque demande, puis envoie la tâche au nœud approprié. L'agent IA décide quel travail est nécessaire, tandis que PAIR détermine la machine qui devrait exécuter la tâche. PAIR est compatible avec plusieurs systèmes d'exploitation, notamment Windows 11, Ubuntu 14.04, macOS Tahoe et DGX OS. Il prend en charge une large gamme de matériel graphique, des cartes graphiques GeForce RTX 20 series et modèles plus récents de Nvidia jusqu'aux systèmes DGX Spark/GB10 et aux puces Apple M4. Les exigences système recommandées comprennent au moins 8 Go de RAM et 20 Go d'espace disque. Bien qu'une connexion Internet ne soit pas nécessaire pour que PAIR fonctionne, elle est requise pour télécharger les modèles IA. La sécurité est un aspect clé de la conception de PAIR. Il fonctionne entièrement sur un réseau local (LAN), et toutes les communications entre les appareils connectés sont sécurisées à l'aide de certificats mTLS. Cela garantit que les données utilisateur, telles que les instructions et les documents, ne quittent jamais le réseau local ou ne passent pas par des services cloud externes. Contrairement aux clusters IA traditionnels des centres de données, qui fonctionnent dans un environnement fixe, PAIR s'adapte à la nature dynamique d'un environnement domestique ou de bureau. Par exemple, un ordinateur portable exécutant un modèle IA pourrait être éteint, un poste de travail pourrait être occupé par un rendu graphique, et différentes machines pourraient prendre en charge différents modèles IA. PAIR gère cette flexibilité à l'aide du protocole de découverte mDNS, qui lui permet d'ajuster dynamiquement le routage des tâches selon la disponibilité et la charge de chaque appareil connecté. Lors des tests, PAIR a démontré des améliorations significatives des performances. Lorsqu'un tâche IA complexe était traitée par cinq agents secondaires sur un seul ordinateur portable équipé d'une carte graphique RTX Spark, cela prenait en moyenne 18 minutes. Lorsque la même tâche était répartie sur trois nœuds - RTX Spark, DGX Spark et RTX 5090 -, PAIR l'a terminée en moins de 9 minutes. Cela met en évidence la manière dont PAIR peut réduire le temps de traitement en équilibrant efficacement les charges de travail entre les ressources disponibles. Plutôt que de diviser un seul modèle IA sur plusieurs GPU, PAIR gère les tâches au niveau des requêtes, ce qui permet de réduire les longues files d'attente et d'améliorer l'efficacité globale. Nvidia a partagé les résultats de ces tests dans un billet de blog, mettant en évidence l'efficacité de son nouvel outil pour améliorer les performances des configurations IA distribuées.