Affirmation virale sur un gain de puissance des GPU

Une publication virale affirme doubler les performances de toutes les cartes graphiques RTX 40 sans modifier le BIOS. Le projet, appelé gpu-unlock-ada, est hébergé sur GitHub sous le nom de JustAResearcher. Les premiers résultats du projet, obtenus avec une RTX 4090, ont été rapportés le 23 octobre, mais celui-ci n'améliore pas les performances en jeu, uniquement les tâches liées à l'IA.

Fonctionnement du module

Le module est un module noyau Linux qui modifie un paramètre du GPU au démarrage, avant le chargement du pilote officiel de Nvidia. Ce paramètre concerne les Tensor Cores, chargés des calculs d'IA. Ces cœurs effectuent des opérations mathématiques avec une grande précision afin d'éviter les erreurs d'arrondi. Nvidia limitait cette fonctionnalité à la moitié de sa puissance sur les cartes GeForce, mais le module rétablit la pleine puissance.

Limites du module

L'affirmation du projet selon laquelle il permettrait de transformer une RTX 4090 en RTX 4060 Ti n'est pas exacte. Le module ne fonctionne que sur la RTX 4090 et, en mode expérimental, sur la RTX 4070 Ti Super. Une version Windows visant une RTX 4080 modifiée dotée de 32 Go a été publiée séparément. Les gains de performance sont confirmés sur ces cartes spécifiques, mais uniquement lors de tests contrôlés sans accès à la mémoire.

Gains de performance réels

Sur la RTX 4070 Ti Super, le gain de performance pour de véritables calculs matriciels en FP8 est minime, à 0,3 %. Pour l'INT8, aucune amélioration n'est constatée, que ce soit sur la RTX 4070 Ti Super ou sur la RTX 4090. Pour les calculs en FP16 ou BF16, les gains existent mais diminuent avec la taille des matrices. Sur une RTX 4080 modifiée, le gain atteint 100 % pour les petites matrices, mais chute entre 60 et 71 % pour les plus grandes.

Retours d'utilisateurs sur les GPU plus anciens

Les utilisateurs de cartes de la série RTX 30 signalent des gains modestes, pouvant atteindre 36 %, lors de l'exécution de grands modèles de langage. Cependant, l'amélioration est faible pendant la génération de texte en raison des limites de la mémoire, et l'on ne constate aucun gain en jeu. Certains utilisateurs ont constaté, après des tests minutieux, des performances identiques avant et après l'installation du module.

Étapes d'installation du module

L'installation consiste à identifier le GPU à l'aide d'un outil en ligne de commande, à installer les logiciels nécessaires, à cloner le projet depuis GitHub et à configurer le système pour charger le module. Il est conseillé de conserver une option de démarrage normale en cas de problème. Le module exige que le GPU soit froid (non alimenté) pendant l'installation.

Risques et mises en garde

Le module contourne le processus de démarrage sécurisé (Secure Boot) de Nvidia, que l'entreprise n'a pas validé. Il existe des risques d'échec du démarrage, de problèmes d'affichage, de corruption de données ou de dommages matériels. Le développeur reconnaît que la précision des calculs n'a pas été testée sur des charges de travail réelles avec la RTX 4090. Pour les joueurs, les avantages sont négligeables, mais pour les chercheurs en IA utilisant une RTX 4090 sous Linux, l'effort peut en valoir la peine. Les utilisateurs sont invités à éviter les miroirs non officiels et à s'en tenir aux dépôts originaux sur GitHub et Hugging Face.