Des bidouilleurs contournent les limitations de performance de NVIDIA pour l'IA

Des bidouilleurs ont découvert un moyen de contourner une restriction qui limite la puissance de calcul de certaines cartes graphiques GeForce RTX lorsqu'elles sont utilisées pour des applications d'intelligence artificielle. Cette méthode permet aux utilisateurs d'augmenter les performances de cartes comme la RTX 4090, même si les gains réels varient selon la tâche effectuée.

La limitation FP32 de NVIDIA sur les Tensor Cores

NVIDIA impose une limitation aux Tensor Cores, des unités spécialisées utilisées pour les calculs complexes en IA, lorsqu'ils effectuent des opérations avec accumulation en FP32. Cette méthode offre une plus grande précision, mais elle réduit de moitié le débit par rapport à l'accumulation en FP16. Cette restriction s'applique à plusieurs générations de cartes RTX, de la série RTX 20 à la série RTX 40.

Exploiter une faille du firmware pour débloquer les performances

Des bidouilleurs ont trouvé un moyen de contourner cette limitation en exploitant une faille du firmware. Cela permet aux utilisateurs de modifier deux paramètres normalement protégés, rétablissant ainsi le débit de calcul maximal sans modifier physiquement le matériel. Cette méthode n'est pas disponible pour les cartes professionnelles Turing et Ampere, qui ne sont pas soumises à la même restriction.

Des gains de performance variables selon l'application et la carte

Sur une RTX 4090, le débit théorique des Tensor Cores augmente de manière significative, mais les tests de performance en conditions réelles montrent des gains de 12 à 34 %. D'autres cartes, comme la RTX 3090 Ti, présentent des améliorations plus importantes sur certaines opérations. Toutefois, les bénéfices dépendent fortement des tâches effectuées, et toutes les applications ne profitent pas du même niveau d'amélioration.

Le déblocage comporte des risques et des limites

Les projets gpu-unlock et turing-unlock restent expérimentaux et ne prennent en charge qu'un nombre limité de cartes. La série RTX 50 n'est pas concernée par cette manipulation. Exploiter la faille du firmware peut entraîner des plantages système, des pannes de GPU, une corruption des données, voire des dommages matériels. Si cette découverte est passionnante pour les passionnés d'IA, elle n'est pas recommandée aux utilisateurs occasionnels.