AWS et Google présentent de nouveaux outils PyTorch

AWS et Google ont chacun annoncé de nouveaux outils permettant d'exécuter PyTorch directement sur leurs puces maison. AWS a présenté TorchNeuron pour ses puces Trainium, tandis que Google a lancé TorchTPU pour ses puces TPU, deux initiatives qui visent à réduire la dépendance à l'égard des processeurs de NVIDIA.

PyTorch et son rôle dans le développement de l'IA

PyTorch est une bibliothèque largement utilisée pour concevoir et entraîner des modèles d'intelligence artificielle. Auparavant, elle nécessitait une couche intermédiaire, comme CUDA de NVIDIA, pour traduire les opérations en instructions destinées à des puces telles que les GPU.

Le passage de XLA à TorchTPU

Le nouveau TorchTPU de Google remplace XLA, un outil précédemment utilisé pour exécuter PyTorch sur les TPU. XLA est désormais déclaré obsolète et sera archivé d'ici le 15 novembre, signe d'une transition rapide vers le nouveau cadre.

Fonctionnalités de TorchTPU et open source

TorchTPU est disponible en open source sous licence Apache 2.0 et propose deux modes d'exécution. Le premier permet un débogage ligne par ligne, tandis que le second compile l'intégralité du programme avant son exécution, offrant une grande souplesse aux développeurs.

Compatibilité avec les outils existants

Google souligne que TorchTPU reste compatible avec les outils et cadres d'IA existants. Des projets comme TorchTitan, VeRL et vLLM peuvent fonctionner sur les TPU sans modifications majeures de leur code ou de leur infrastructure.

L'implication de Meta et ses objectifs stratégiques

Meta, à l'origine de PyTorch, participe directement au projet TorchTPU. Cette démarche s'inscrit dans ses efforts pour réduire sa dépendance à NVIDIA, dont Meta est l'un des plus gros clients, et Meta a déjà testé la location de TPU via Google Cloud.

Implications plus larges pour l'infrastructure de l'IA

AWS et Google cherchent tous deux à réduire la dépendance de l'écosystème de l'IA envers NVIDIA en rendant leurs puces plus accessibles. Si aucune des deux entreprises ne défie ouvertement NVIDIA, cette initiative traduit une volonté croissante de disposer de solutions matérielles alternatives pour l'intelligence artificielle.