Exécutez plus rapidement les workloads d'IA les plus exigeants, y compris l'entraînement et l'inférence d'IA générative, le calcul scientifique et les moteurs de recommandation, où que vous soyez dans notre cloud distribué. Utilisez Oracle Cloud Infrastructure (OCI) Supercluster pour exploiter jusqu'à 131 072 GPU.
Découvrez comment les deux entreprises accélèrent l'adoption de l'IA.
Découvrez la nouvelle infrastructure d'IA d'Oracle, y compris les superclusters OCI pour les GPU NVIDIA Blackwell et Blackwell Ultra, et les clusters pour OCI Dedicated Region et Oracle Alloy.
L'infrastructure Oracle AI est évolutive, performante et déployable partout. Découvrez notre évolutivité de pointe, nos instances GPU bare metal et les nombreux autres points qui nous distinguent.
Les principaux architectes d'OCI révèlent comment les réseaux de cluster optimisent l'évolutivité pour l'IA générative, de quelques GPU à un supercluster OCI zettascale avec 131 072 GPU NVIDIA Blackwell.
Découvrez le point de vue de l'analyste sur l'infrastructure d'IA OCI avec les GPU AMD et comment cette combinaison peut améliorer la productivité, accélérer le délai de rentabilité et réduire les coûts énergétiques.
Boostez l'entraînement de l'IA avec les instances bare metal GPU uniques d'OCI et le réseau de cluster RDMA ultra-rapide qui réduisent la latence à seulement 2,5 microsecondes. Bénéficiez d'une tarification jusqu'à 220 % supérieure sur les machines virtuelles GPU par rapport aux autres fournisseurs cloud.
Tirez parti d'OCI File Storage avec des cibles de montage à hautes performances (HPMT) et Lustre pour des téraoctets par seconde de débit. Utilisez jusqu'à 61,44 To de stockage NVMe, le stockage le plus élevé du secteur pour les instances de GPU.
Le cloud distribué d'Oracle vous permet de déployer une infrastructure d'IA n'importe où pour répondre aux exigences en matière de performances, de sécurité et de souveraineté de l'IA. Découvrez comment Oracle et NVIDIA fournissent une IA souveraine où que vous soyez.
Jusqu'à 131 072 GPU, 8 fois plus d'évolutivité
Les innovations de structure réseau permettent à OCI Supercluster d'atteindre jusqu'à 131 072 GPU NVIDIA B200, 100 000 GPU Blackwell dans les superpuces NVIDIA Grace Blackwell et 65 536 GPU NVIDIA H200.
Que vous cherchiez à effectuer des déductions ou des ajustements, ou à entraîner des modèles à grande échelle pour l'IA générative, OCI offre des options de cluster de GPU bare metal et de machine virtuelle de pointe, optimisées par un réseau à très large bande passante et un stockage à hautes performances pour répondre à vos besoins en IA.
Programme d'essai pour OCI Compute AMD avec des GPU Instinct MI300X.
Calcul superchargé
• Instances bare metal sans surcharge d'hyperviseur
• Accéléré par NVIDIA Blackwell (GB200 NVL72, HGX B200),
Hopper (H200, H100) et les GPU de génération précédente
• Option d'utilisation de GPU AMD MI300X
• Unité de traitement de données (DPU) pour l'accélération matérielle intégrée
Capacité massive et stockage haut débit
• Stockage local : jusqu'à 61,44 To de capacité SSD NVMe
• Stockage de fichiers : service Lustre entièrement géré (bientôt disponible) et HPMT
avec jusqu'à 80 Gb/s de débit
• Stockage de blocs : volumes équilibrés, hautes performances et ultra-hautes performances avec un contrat de niveau de service de performance
• Stockage d'objets : niveaux de classe de stockage distincts, réplication de bucket et limites de capacité élevées
Réseau ultra-rapide
• Protocole RDMA sur Ethernet convergé personnalisé (RoCE v2)
• 2,5 à 9,1 microsecondes de latence pour la mise en réseau de cluster
• Jusqu'à 3 200 Gb/s de bande passante réseau de cluster
• Jusqu'à 200 Gb/s de bande passante réseau frontale
Les instances bare metal OCI optimisées par les GPU NVIDIA GB200 NVL72, NVIDIA B200, NVIDIA H200, AMD MI300X, NVIDIA L40S, NVIDIA H100 et NVIDIA A100 vous permettent d'exécuter de grands modèles d'IA pour les cas d'utilisation qui incluent le deep learning, l'IA conversationnelle et l'IA générative.
Avec OCI Supercluster, vous pouvez évoluer pour atteindre jusqu'à plus de 100 000 GB200 Superchips, 131 072 B200 GPU, 65 536 H200 GPU, 32 768 A100 GPU, 16 384 H100 GPU, 16 384 MI300X GPU et 3 840 L40S GPU par cluster.
La mise en réseau de clusters RDMA à haut débit alimentée par les cartes d'interface réseau NVIDIA ConnectX avec RDMA sur la version 2 de l'ethernet convergé vous permet de créer de grands clusters d'instances GPU avec la même mise en réseau à très faible latence et la même évolutivité des applications attendue on-premises.
Vous ne payez pas de frais supplémentaires pour la capacité RDMA, le stockage de blocs ou la bande passante réseau, et les 10 premiers To de sortie sont gratuits.
Grâce à OCI Supercluster, les clients peuvent accéder au stockage local, de blocs, d'objets et de fichiers pour le calcul petaflopique. Parmi les principaux fournisseurs de cloud, OCI offre la capacité la plus élevée de stockage NVMe local à hautes performances pour des points de reprise plus fréquents pendant les entraînements, ce qui permet une récupération plus rapide en cas de défaillance.
Pour les jeux de données volumineux, OCI offre un stockage de fichiers hautes performances avec Lustre et des cibles de montage. Les systèmes de fichiers HPC, y compris BeeGFS, GlusterFS et WEKA, peuvent être utilisés pour l'entraînement d'IA à grande échelle sans compromettre les performances.
Regardez les meilleurs architectes d'OCI révéler comment les réseaux de cluster alimentent l'IA générative évolutive. De quelques GPU aux superclusters OCI zettascale avec plus de 131 000 GPU NVIDIA Blackwell, les réseaux de cluster offrent une vitesse élevée, une faible latence et un réseau résilient pour votre parcours d'IA.
Chez Oracle Cloud Infrastructure (OCI), nous sommes déterminés à fournir aux clients l'infrastructure cloud la plus avancée pour les workloads d'IA, où qu'ils en aient besoin.
Lire la suite de l'articleEntraînez des modèles d'IA sur des instances bare metal OCI optimisées par des GPU, des réseaux de clusters RDMA et OCI Data Science.
La protection des milliards de transactions financières qui se produisent chaque jour nécessite des outils d'IA améliorés capables d'analyser de grandes quantités de données client historiques. Les modèles d'IA exécutés sur OCI Compute alimentés par des GPU NVIDIA, ainsi que des outils de gestion de modèles tels qu'OCI Data Science et d'autres modèles open source aident les institutions financières à réduire la fraude.
L'IA est souvent utilisée pour analyser divers types d'images médicales (comme les rayons X et les IRM) dans un hôpital. Les modèles entraînés peuvent aider à hiérarchiser les cas nécessitant une révision immédiate par un radiologue et à rapporter des résultats concluants sur d'autres.
La découverte de médicaments est un processus long et coûteux qui peut prendre de nombreuses années et coûter des millions de dollars. En tirant parti de l'infrastructure et de l'analyse de l'IA, les chercheurs peuvent accélérer la découverte de médicaments. En outre, OCI Compute s'appuie sur des GPU NVIDIA ainsi que sur des outils de gestion des workflows d'IA tels que BioNeMo pour permettre aux clients de traiter et de prétraiter leurs données.
Obtenez de l'aide pour créer votre prochaine solution d'IA ou déployer votre workload sur l'infrastructure d'IA d'OCI.
Entrez dans une nouvelle ère de productivité avec des solutions d'IA générative pour votre entreprise. Découvrez comment Oracle aide les clients à tirer parti de l'IA intégrée dans l'ensemble de la pile technologique.
En savoir plus sur la mise en réseau de clusters RDMA, les instances GPU, les serveurs bare metal, etc.
La tarification d'Oracle Cloud est simple, avec des tarifs faibles homogènes dans le monde entier et prenant en charge un large éventail de cas spécifiques. Pour estimer votre tarif réduit, consultez l’estimateur de coûts et configurez les services en fonction de vos besoins.