Instances GPU

Oracle Cloud Infrastructure (OCI) Compute fournit l'évolutivité et les performances de pointe pour les instances Bare Metal et de machine virtuelle (VM) optimisées par des GPU NVIDIA et AMD pour les graphiques grand public, l'inférence d'IA, l'entraînement d'IA, les jumeaux numériques et le HPC.

Lisez notre mise à jour sur l'IA agentique
Twelve Labs entraîne des modèles vidéos d'IA avec l'infrastructure Oracle AI (1:51)

Lisez les dernières annonces d'OCI

Découvrez comment l'infrastructure Oracle AI et les processeurs graphiques AMD Instinct fournissent une base d'IA/ML hautes performances, évolutive et rentable.

Pourquoi utiliser OCI pour les instances de GPU ?

Évolutivité

131 072

Nombre maximal de GPU par supercluster OCI1

Performances

3 200

Jusqu'à 3 200 Gb/s de bande passante réseau de cluster RDMA2

Valeur

220 %

Les GPU des autres fournisseurs de services cloud peuvent coûter jusqu'à 220 % plus cher3

Choix

VM/BM

Redimensionnement avec machine virtuelle et performances avec des instances bare metal

1. OCI Supercluster évolue jusqu'à 131 072 processeurs graphiques NVIDIA Blackwell B200 ; plus de 100 000 processeurs graphiques NVIDIA Blackwell B200 dans les superpuces NVIDIA Grace Blackwell GB200 ; 65 536 processeurs graphiques NVIDIA H200 Tensor Core ; 32 768 processeurs graphiques NVIDIA A100 Tensor Core ; 16 384 processeurs graphiques NVIDIA H100 Tensor Core ; et 16 384 processeurs graphiques AMD MI300X.

2. Pour les instances Bare Metal avec des processeurs graphiques NVIDIA B200, H200 et H100 et des accélérateurs AMD Instinct MI300X.

3. Tarification à la demande du 5 juin 2024.

Inscrivez-vous au nouveau programme d'essai avant d'acheter pour OCI Compute avec des GPU MI300X AMD Instinct.

Caractéristiques clé des instances GPU

OCI est le seul fournisseur cloud majeur à proposer des instances bare metal avec des GPU NVIDIA et AMD pour des performances élevées, sans frais de virtualisation. Pour les points de reprise lors de l'entraînement de l'IA, nos instances fournissent le stockage le plus local par nœud (61,4 To avec des GPU H100).

GPU NVIDIA et AMD à hautes performances

GPU NVIDIA Tensor Core

OCI offre la valeur et les performances les plus élevées pour les instances de calcul Bare Metal et de machine virtuelle optimisées par les processeurs graphiques NVIDIA Blackwell, les processeurs graphiques H200 Tensor Core, les processeurs graphiques H100 Tensor Core, les processeurs graphiques L40S, les processeurs graphiques A100 Tensor Core, les processeurs graphiques A10 Tensor Core et les processeurs graphiques NVIDIA de générations précédentes.

Superpuces NVIDIA

OCI propose la Superpuce NVIDIA GB200 Grace Blackwell dans des superclusters qui évoluent jusqu'à plus de 100 000 processeurs graphiques.

Accélérateurs AMD Instinct

OCI propose des processeurs graphiques AMD Instinct MI300X avec 192 Go de mémoire à un prix compétitif de 6 $ par processeur graphique et par heure.

Mise en réseau de cluster à hautes performances

La mise en réseau de clusters à faible latence d'Oracle, reposant sur l'accès direct à distance à la mémoire (RDMA), fournit une latence de l'ordre de la microseconde.

Instances GPU NVIDIA à hautes performances
Entraînement de GPT-3 175B : temps d'entraînement et nombre de processeurs graphiques NVIDIA H100 déployés dans OCI Supercluster (0:55). Source Performances d'OCI pour l'entraînement MLPerf v4.1

Déployez vos applications sur des machines virtuelles, des instances bare metal et des clusters Kubernetes

Instances de VM

Pour les machines virtuelles, choisissez parmi les architectures GPU Hopper, Ampere et d'anciennes générations de NVIDIA avec 1 à 4 cœurs, 16 à 64 Go de mémoire GPU par machine virtuelle et jusqu'à 48 Gb/s de bande passante réseau.

Instances bare metal

Utilisez OCI Supercluster avec des instances bare metal qui incluent des GPU AMD Instinct, des GPU NVIDIA Blackwell ou des Superchips, des GPU NVIDIA Hopper ou des Superchips et des GPU NVIDIA Ampere.

Orchestration Kubernetes

Tirez parti de Kubernetes géré, du maillage de services et du registre de conteneurs pour orchestrer l'entraînement et l'inférence de l'IA et du machine learning (ML) avec les conteneurs.

Choisissez parmi différentes instances de calcul de machine virtuelle et bare metal
Comparaison des performances des cartes graphiques NVIDIA V100 et A10

Accédez à des logiciels rapidement accessibles

Accédez à des logiciels et aux images disque

Oracle Cloud Marketplace fournit des logiciels et des images disque pour la data science, les analyses, l’intelligence artificielle (IA) et des modèles de machine learning (ML) afin que les clients puissent analyser rapidement leurs données.

NVIDIA AI Enterprise

Accédez à NVIDIA AI Enterprise, une plateforme logicielle complète pour l'IA de data science et de production, y compris l'IA générative, la vision par ordinateur et l'IA vocale.

NVIDIA DGX Cloud

NVIDIA DGX Cloud sur OCI est une plateforme de formation en tant que service de l'IA, offrant aux développeurs une expérience sans serveur optimisée pour l'IA générative.

NVIDIA GPU Cloud Machine Image

Utilisez NVIDIA GPU Cloud Machine Image pour des centaines d'applications optimisées pour le GPU pour le machine learning, le deep learning et le calcul haute performance, couvrant un large éventail de secteurs d'activité et de workloads.

NVIDIA RTX Virtual Workstation

Proposez des postes de travail performants à vos collaborateurs là où ils en ont besoin en exécutant NVIDIA RTX Virtual Workstation sur Oracle Cloud.

Contrôlez votre environnement informatique et vos données d'IA

Cloud distribué

Associé au calcul GPU, le cloud distribué d'OCI aide les entreprises à exécuter des services d'IA et de cloud là où et comment ils sont nécessaires.

Cloud souverain

Prenez en charge la résidence des données dans une région ou un pays, notamment l'UE, les États-Unis, le Royaume-Uni et l'Australie.

OCI Dedicated Region

Déployez une région cloud complète dans votre data center avec OCI Dedicated Region pour conserver un contrôle total de vos données et applications.

Oracle Alloy

Devenez partenaire d'Oracle Alloy et fournissez vos services cloud pour répondre à des besoins spécifiques du marché.

Microservices et conteneurs

Container registry

Les développeurs qui créent des applications à l’aide de conteneurs exploitent un service de registre de conteneur privé hautement disponible géré par Oracle pour stocker et partager des images de conteneurs. Poussez ou tirez des images Docker vers et depuis le registre à l’aide de l’API Docker V2 et de l’interface de lignes de commande (CLI) Docker standard. Les images peuvent être extraites directement dans un déploiement Kubernetes.

Oracle Functions

Les fonctions en tant que service (FaaS) permettent que les développeurs exécutent des applications serverless qui s’intègrent à Oracle Cloud Infrastructure, à Oracle Cloud Applications et à des services tiers. Augmentez l’efficacité des développeurs avec la communauté Fn Project open source.

Cas d'utilisation d'instances GPU

Infrastructure d'IA pour l'entraînement et l'inférence en deep learning

Entraînez des modèles d'IA à l'aide d'OCI Data Science, d'instances bare metal, de réseaux de clusters utilisant le RDMA et des processeurs graphiques NVIDIA.


Entraînement et inférence d'IA Ce diagramme décrit deux étapes du développement d'un modèle de deep learning : l'entraînement du modèle et l'inférence à partir du modèle. Dans l'entraînement du modèle (à gauche), le réseau neuronal non entraîné est soumis à un algorithme d'entraînement utilisant OCI Data Science, le calcul bare metal, un stockage local et un réseau en cluster. L'algorithme d'entraînement produit un modèle entraîné avec une nouvelle fonctionnalité. L'étape d'inférence de modèle est décrite à droite. Par exemple, un modèle entraîné, tel que DALL-E 2, peut prendre des entrées de texte et générer des images. Une entrée de texte est introduite dans le modèle entraîné et le modèle génère une image.

Infrastructure de bureau virtuel (VDI)

Les instances d'OCI Compute équipées de processeurs graphiques NVIDIA fournissent des performances élevées et constantes pour les VDI.


Infrastructure de bureau virtuel Infrastructure de bureau virtuel

Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU

OCI facilite l'ingénierie assistée par ordinateur et la dynamique des fluides numérique avec à la clé des prédictions rapides des propriétés aérodynamiques des objets.


Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU Mécanique des fluides numérique et calcul haute performance à l'aide d'instances GPU

Instances GPU—clients

Découvrir d’autres témoignages clients

Lancez-vous avec les instances GPU

Essayez Oracle AI gratuitement pendant 30 jours

Oracle offre un niveau gratuit pour la plupart des services d'IA ainsi qu'un compte d'essai gratuit avec 300 USD de crédits pour tester ses services cloud complémentaires. Les services d'IA comprennent un ensemble d'offres, incluant l'IA générative, avec des modèles de machine learning prédéfinis qui permettent aux développeurs d'appliquer plus facilement l'IA aux applications et aux opérations métier.

  • Quels services d'IA ou de machine learning d'Oracle offrent un niveau gratuit ?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Le machine learning dans Oracle Database
    • OCI Data Labeling

    Vous n'avez à payer que des frais de calcul et de stockage pour OCI Data Science.

Tirez parti des processeurs graphiques dès aujourd'hui

Découvrez comment Oracle aide les clients à tirer parti des processeurs graphiques NVIDIA et AMD pour une variété de cas d'utilisation de l'IA.

  • Que pouvez-vous faire avec les instances de processeur graphique ?

    • Héberger des LLM avec les processeurs graphiques NVIDIA et AMD
    • Exécuter un entraînement multinoeud distribué avec des processeurs graphiques NVIDIA
    • Automatiser les tâches avec les LLM et la génération augmentée par extraction
    • Mettre à l'échelle l'inférence NVIDIA NIM

Découvrez combien vous pouvez réaliser des économies avec OCI

La tarification d'Oracle Cloud est simple, avec des tarifs faibles homogènes dans le monde entier et prenant en charge un large éventail de cas spécifiques. Pour estimer votre tarif réduit, consultez l’estimateur de coûts et configurez les services en fonction de vos besoins.

Ressentez la différence

  • 1/4 des coûts de bande passante sortante
  • Rapport prix/performances de calcul 3 fois plus élevé
  • Tarifs faibles et identiques dans chaque région
  • Tarifs bas sans engagements à long terme

Entrer en contact avec des experts en processeurs graphiques et en IA

Obtenez de l'aide pour créer votre prochaine solution de GPU ou déployer votre workload d'IA sur l'infrastructure OCI AI.

  • Il peut répondre à des questions telles que :

    • Comment se lancer avec Oracle Cloud ?
    • Quels types de workloads d'IA puis-je exécuter sur OCI ?
    • Quels types de services d'IA OCI propose-t-il ?