Instances GPU
Oracle Cloud Infrastructure (OCI) Compute propose une évolutivité de pointe pour les instances bare metal et de machine virtuelle optimisées par des GPU NVIDIA pour les graphiques grand public, l'inférence AI, l'entraînement d'IA, les jumeaux numériques et le calcul haute performance.
OCI Supercluster fournit des GPU à hautes performances à grande échelle pour accélérer l'entraînement des grands modèles de langage (LLM) utilisés dans la recherche cardiothoracique.
Pourquoi utiliser OCI pour les instances de GPU ?
Évolutivité
131 072
Nombre maximal de GPU par supercluster OCI1
Performances
3 200
Jusqu'à 3 200 Gb/s de bande passante réseau de cluster RDMA2
Valeur
220 %
Les GPU des autres fournisseurs de services cloud peuvent coûter jusqu'à 220 % plus cher3
Choix
VM/BM
Redimensionnement avec machine virtuelle et performances avec des instances bare metal
1 : OCI Supercluster peut atteindre jusqu'à 131 072 GPU NVIDIA B200 (prévus), plus de 100 000 GPU NVIDIA B200 dans les superpuces NVIDIA GB200 (prévues), 65 536 GPU H200 (prévus), 32 768 GPU NVIDIA A100 et 16 384 GPU NVIDIA H100.
2 : Pour les instances bare metal avec des GPU NVIDIA H100.
3 : Basé sur la tarification à la demande au 5 juin 2024.
Caractéristiques clé des instances GPU
OCI est le seul fournisseur cloud majeur à proposer des instances bare metal avec des GPU NVIDIA pour des performances élevées, sans frais de virtualisation. Pour les points de reprise lors de l'entraînement d'IA, nos instances fournissent le stockage local le plus important par nœud (61,44 To).
Instances GPU NVIDIA à hautes performances
GPU NVIDIA Tensor Core
OCI offre la valeur et les performances les plus élevées pour les instances de calcul Bare Metal et de machine virtuelle optimisées par les GPU Tensor Core NVIDIA H100, les GPU L40S, les GPU Tensor Core A100, les GPU Tensor Core A10 et les GPU NVIDIA d'anciennes générations. OCI prévoit de proposer des instances avec des H200 et des GPU Blackwell de NVIDIA.
Superpuces NVIDIA
OCI propose la puce NVIDIA GH200 Grace Hopper Superchip et prévoit de proposer la puce Grace Blackwell Superchip GB200 pour l'inférence LLM.
Mise en réseau de cluster à hautes performances
La mise en réseau de clusters à faible latence d'Oracle, reposant sur l'accès direct à distance à la mémoire (RDMA), fournit une latence de l'ordre de la microseconde.
Déployez vos applications sur des machines virtuelles, des instances bare metal et des clusters Kubernetes
Instances de VM
Pour les machines virtuelles, choisissez parmi les architectures GPU Hopper, Ampere et d'anciennes générations de NVIDIA avec 1 à 4 cœurs, 16 à 64 Go de mémoire GPU par machine virtuelle et jusqu'à 48 Gb/s de bande passante réseau.
Instances bare metal
Utilisez OCI Supercluster avec des instances bare metal à l'aide des superpuces et GPU Blackwell, Hopper ou Ampere de NVIDIA avec 640 Go de mémoire GPU par nœud.
Orchestration Kubernetes
Tirez parti de Kubernetes géré, du maillage de services et du registre de conteneurs pour orchestrer l'entraînement et l'inférence de l'IA et du machine learning (ML) avec les conteneurs.
Accédez à des logiciels rapidement accessibles
Accédez à des logiciels et aux images disque
Oracle Cloud Marketplace fournit des logiciels et des images disque pour la data science, les analyses, l’intelligence artificielle (IA) et des modèles de machine learning (ML) afin que les clients puissent analyser rapidement leurs données.
NVIDIA AI Enterprise
Accédez à NVIDIA AI Enterprise, une plateforme logicielle complète pour l'IA de data science et de production, y compris l'IA générative, la vision par ordinateur et l'IA vocale.
NVIDIA DGX Cloud
NVIDIA DGX Cloud sur OCI est une plateforme de formation en tant que service de l'IA, offrant aux développeurs une expérience sans serveur optimisée pour l'IA générative.
NVIDIA GPU Cloud Machine Image
Utilisez NVIDIA GPU Cloud Machine Image pour des centaines d'applications optimisées pour le GPU pour le machine learning, le deep learning et le calcul haute performance, couvrant un large éventail de secteurs d'activité et de workloads.
NVIDIA RTX Virtual Workstation
Proposez des postes de travail performants à vos collaborateurs là où ils en ont besoin en exécutant NVIDIA RTX Virtual Workstation sur Oracle Cloud.
Contrôlez votre environnement informatique et vos données d'IA
Cloud distribué
Associé au calcul GPU, le cloud distribué d'OCI aide les entreprises à exécuter des services d'IA et de cloud là où et comment ils sont nécessaires.
Cloud souverain
Prenez en charge la résidence des données dans une région ou un pays, notamment l'UE, les États-Unis, le Royaume-Uni et l'Australie.
OCI Dedicated Region
Déployez une région cloud complète dans votre data center avec OCI Dedicated Region pour conserver un contrôle total de vos données et applications.
Oracle Alloy
Devenez partenaire d'Oracle Alloy et fournissez vos services cloud pour répondre à des besoins spécifiques du marché.
Microservices et conteneurs
Container registry
Les développeurs qui créent des applications à l’aide de conteneurs exploitent un service de registre de conteneur privé hautement disponible géré par Oracle pour stocker et partager des images de conteneurs. Poussez ou tirez des images Docker vers et depuis le registre à l’aide de l’API Docker V2 et de l’interface de lignes de commande (CLI) Docker standard. Les images peuvent être extraites directement dans un déploiement Kubernetes.
Oracle Functions
Les fonctions en tant que service (FaaS) permettent que les développeurs exécutent des applications serverless qui s’intègrent à Oracle Cloud Infrastructure, à Oracle Cloud Applications et à des services tiers. Augmentez l’efficacité des développeurs avec la communauté Fn Project open source.
Cas d'utilisation d'instances GPU
Infrastructure d'IA pour l'entraînement et l'inférence en deep learning
Entraînez des modèles d'IA à l'aide d'OCI Data Science, d'instances bare metal, de réseaux de clusters utilisant le RDMA et des processeurs graphiques NVIDIA.
Ce diagramme décrit deux étapes du développement d'un modèle de deep learning : l'entraînement du modèle et l'inférence à partir du modèle. Dans l'entraînement du modèle (à gauche), le réseau neuronal non entraîné est soumis à un algorithme d'entraînement utilisant OCI Data Science, le calcul bare metal, un stockage local et un réseau en cluster. L'algorithme d'entraînement produit un modèle entraîné avec une nouvelle fonctionnalité. L'étape d'inférence de modèle est décrite à droite. Par exemple, un modèle entraîné, tel que DALL-E 2, peut prendre des entrées de texte et générer des images. Une entrée de texte est introduite dans le modèle entraîné et le modèle génère une image.
Infrastructure de bureau virtuel (VDI)
Les instances d'OCI Compute équipées de processeurs graphiques NVIDIA fournissent des performances élevées et constantes pour les VDI.
Infrastructure de bureau virtuel
Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU
OCI facilite l'ingénierie assistée par ordinateur et la dynamique des fluides numérique avec à la clé des prédictions rapides des propriétés aérodynamiques des objets.
Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU
