Oracle a annoncé aujourd’hui Oracle Cloud Infrastructure (OCI) Zettascale10, le plus grand superordinateur d’IA disponible dans le cloud. OCI Zettascale10 relie des centaines de milliers de GPU NVIDIA répartis sur plusieurs centres de données pour former des clusters multi-gigawatts capables de délivrer jusqu’à 16 zettaFLOPS de performance de pointe, un record sans précédent. OCI Zettascale10 constitue l’infrastructure sous-jacente du supercluster phare construit en collaboration avec OpenAI à Abilene, Texas, dans le cadre de Stargate. Construit sur la nouvelle architecture réseau Oracle Acceleron RoCE et propulsé par l’infrastructure NVIDIA IA, OCI Zettascale10 offre une échelle inédite, une latence GPU à GPU extrêmement faible sur le cluster, un rapport prix/performance inégalé dans l’industrie, une meilleure utilisation du cluster, ainsi que la fiabilité indispensable aux charges de travail IA à grande échelle.

OCI Zettascale10 est une avancée majeure par rapport au premier cluster cloud Zettascale, lancé en septembre 2024. Les clusters OCI Zettascale10 sont hébergés dans des campus de centres de données d’une capacité de plusieurs gigawatts, parfaitement optimisés pour la densité dans un rayon de deux kilomètres afin d’offrir la meilleure latence entre GPU pour les entraînements IA à grande échelle. Cette architecture est déployée avec OpenAI sur le site Stargate, à Abilene.

« Avec OCI Zettascale10, nous fusionnons l’architecture réseau révolutionnaire Oracle Acceleron RoCE d’OCI avec la technologie NVIDIA IA de dernière génération pour fournir une capacité IA multi-gigawatts à une échelle inégalée, » a déclaré Mahesh Thiagarajan, vice-président exécutif, Oracle Cloud Infrastructure. « Les clients peuvent développer, entraîner et déployer leurs plus grands modèles d’IA en production tout en consommant moins d’énergie par unité de performance et en bénéficiant d’une grande fiabilité. De plus, ils auront la liberté de fonctionner sur le cloud distribué d’Oracle avec des contrôles forts en matière de souveraineté des données et de l’IA. »

« Le réseau et la structure de cluster OCI Zettascale10 ont été développés et déployés en premier sur le site Stargate d’Abilene, Texas – notre supercluster commun avec Oracle, » a indiqué Peter Hoeschele, vice-président, Infrastructure et Informatique Industrielle, OpenAI. « Le design RoCE personnalisé extrêmement évolutif optimise la performance globale du cluster à l’échelle du gigawatt tout en concentrant la majeure partie de la puissance sur le calcul. Nous sommes ravis de poursuivre l’expansion d’Abilene et du programme Stargate. »

OCI prévoit de proposer des déploiements multi-gigawatts d’OCI Zettascale10 à ses clients. Initialement, les clusters OCI Zettascale10 cibleront jusqu’à 800 000 GPU NVIDIA pour offrir des performances prédictibles et un excellent rapport coût/efficacité, avec une grande bande passante GPU-GPU, rendue possible grâce au réseau RoCEv2 ultra-faible latence d’Oracle Acceleron.

« Oracle et NVIDIA associent le cloud distribué d’OCI à notre infrastructure IA full-stack pour proposer l’IA à une échelle extraordinaire, » a déclaré Ian Buck, vice-président Hyperscale, NVIDIA. « Avec l’infrastructure IA complète de NVIDIA, OCI Zettascale10 fournit la structure de calcul nécessaire pour faire avancer la recherche IA de pointe et aider les organisations du monde entier à passer de l’expérimentation à l’industrialisation de l’IA. »

Le réseau Oracle Acceleron RoCE offre évolutivité, fiabilité et efficacité pour l’IA sur OCI Zettascale10

L’architecture réseau Oracle Acceleron RoCE est une innovation essentielle permettant aux clients de développer, entraîner et faire inférer des charges IA dans le cloud, tout en tirant pleinement parti de la puissance et des capacités d’OCI Zettascale10. Elle utilise la capacité de commutation intégrée dans les cartes réseau (NIC) GPU modernes, leur permettant de se connecter simultanément à plusieurs commutateurs, chacun sur un plan réseau distinct et isolé. Cette approche augmente considérablement l’échelle et la fiabilité du réseau, en redirigeant le trafic vers d’autres plans réseau en cas de problème, évitant ainsi les interruptions et les redémarrages coûteux. Voici les principaux atouts du réseau Oracle Acceleron RoCE pour les charges d’IA critiques :

• Infrastructure large, peu profonde et résiliente: Permet aux clients de déployer rapidement des clusters IA plus vastes à moindre coût total, en utilisant la carte réseau GPU comme mini-commutateur connecté à plusieurs plans physiquement et logiquement isolés, ce qui augmente l’échelle tout en réduisant le nombre de niveaux de réseau, le coût et la consommation d’énergie.
• Fiabilité accrue: Aide les clients à maintenir la stabilité des tâches IA en évitant le partage de données entre les plans, redirigeant le trafic loin des plans instables ou congestionnés afin de maintenir les jobs d’entraînement et d’éviter les coûteux redémarrages à partir d’un point de sauvegarde.
• Performance uniforme: Offre une latence plus homogène de GPU à GPU en supprimant un niveau par rapport aux architectures traditionnelles à trois niveaux, améliorant ainsi la prévisibilité pour la formation et l’inférence IA à grande échelle.
• Optique écoénergétique: Prend en charge les charges des clients grâce à Linear Pluggable Optics (LPO) et Linear Receiver Optics (LRO) afin de réduire les coûts réseau et de refroidissement sans sacrifier le débit 400G/800G, permettant ainsi de consacrer une plus grande part du budget énergétique au calcul.
• Flexibilité opérationnelle: Permet aux clients de réduire les temps d’arrêt et d’accélérer le déploiement de nouvelles fonctionnalités grâce à la maintenance au niveau des plans et à des mises à jour indépendantes du système d’exploitation réseau.

OCI prend dès à présent les commandes pour OCI Zettascale10, qui sera disponible au deuxième semestre de l’année prochaine, avec jusqu’à 800 000 plateformes GPU d’infrastructure IA NVIDIA.

Ressources supplémentaires

• Visionnez la keynote d’ouverture d’Oracle AI World avec Mahesh Thiagarajan
• Découvrez-en plus sur l’infrastructure IA OCI