Istanze GPU
Oracle Cloud Infrastructure (OCI) Compute offre performance e scalailità leader di settore per le istanze Bare Metal e Virtual Machine (VM) alimentate da GPU NVIDIA e AMD per grafica mainstream, inferenza AI, formazione AI, digital twin e HPC.
Leggi gli ultimi annunci OCI
-
NVIDIA Blackwell
Scopri di più sulla disponibilità dei sistemi NVIDIA GB200 NVL72 su NVIDIA DGX Cloud e OCI.
-
Collaborazione tra Oracle e AMD
Oracle e AMD hanno annunciato che le GPU AMD Instinct MI355X saranno disponibili su OCI per carichi di lavoro di formazione e inferenza AI su larga scala.
-
Seekr sceglie OCI per un'AI di fiducia
Seekr sceglie l'infrastruttura AI OCI per accelerare rapidamente le implementazioni dell'AI aziendale, la formazione sull'AI multinodo e l'AI agentica.
-
Primi principi: supercluster Zettascale
Scopri come le reti di cluster di OCI alimentano l'AI generativa scalabile.
-
AI sovrana
Oracle e NVIDIA consegnano un'AI sovrana a livello globale
-
GA per il plugin del dispositivo GPU NVIDIA
Il plugin in OCI Kubernetes Engine offre maggiore controllo e flessibilità.
-
Progetti AI OCI
Implementa e ridimensiona facilmente i carichi di lavoro AI in produzione.
-
GPU AMD Instinct MI300X
Le istanze Bare Metal di OCI Compute con GPU AMD raggiungono la disponibilità generale.
Annuncio della disponibilità generale di OCI Compute con GPU AMD MI355X
Perché utilizzare OCI per le istanze GPU?
Scalabilità
131.072
Numero massimo di GPU in un OCI Supercluster1
Performance
3.200
Fino a 3.200 Gb/sec di larghezza di banda della rete del cluster RDMA2
Valore
220%
Le GPU per altri CSP possono essere fino al 220% più costose3
Scelta
VM/BM
Ridimensionamento con VM e prestazioni con istanze Bare Metal
1. OCI Supercluster si ridimensiona fino a 131.072 GPU NVIDIA Blackwell B200; 131.072 GPU NVIDIA Blackwell B200 in NVIDIA Grace Blackwell GB200 Superchip; 65.536 GPU NVIDIA H200 Tensor Core; 32.768 GPU NVIDIA A100 Tensor Core; 16.384 GPU NVIDIA H100 Tensor Core e 16.384 GPU AMD MI300X.
2. Per le istanze Bare Metal con GPU NVIDIA B200, H200, H100 e acceleratori AMD Instinct MI300X.
3. In base ai prezzi on-demand validi al 5 giugno 2024.
Iscriviti al nuovo programma di prova prima dell'acquisto effettivo per OCI Compute con GPU AMD Instinct MI300X.
Istanze GPU - funzioni principali
OCI è l'unico grande provider cloud in grado di offrire istanze Bare Metal con GPU NVIDIA e AMD per prestazioni elevate, senza sovraccarico di virtualizzazione. Per il checkpoint durante la formazione AI, le nostre istanze offrono il maggior numero di storage locale per nodo (61,44 TB con H100 GPU). Per garantire un equilibrio tra prestazioni e prezzo, le VM OCI con GPU NVIDIA sono sistematicamente più convenienti di AWS e Azure.
GPU NVIDIA e AMD ad alte prestazioni
GPU Tensor Core NVIDIA
OCI offre il valore e le prestazioni più elevate per le istanze di calcolo Bare Metal e Virtual Machine basate su GPU NVIDIA Blackwell, GPU H200 Tensor Core, GPU H100 Tensor Core, GPU L40S, GPU A100 Tensor Core, GPU A10 Tensor Core e GPU NVIDIA di generazione precedente.
Superchip NVIDIA
OCI offre NVIDIA GB200 Grace Blackwell Superchip nei supercluster che si ridimensionano a più di 100.000 GPU.
Acceleratori AMD Instinct
OCI offre GPU AMD Instinct MI300X con 192 GB di memoria a un prezzo competitivo di $6 per GPU/ora.
Rete cluster ad alte prestazioni
La rete di cluster a latenza ultrabassa di Oracle, basata sull'accesso RDMA (Remote Direct Memory Access), offre una latenza a livello di microsecondi.
Distribuisci su VM, istanze Bare Metal e cluster Kubernetes
Istanze VM
Per le VM, è possibile scegliere tra le architetture GPU di NVIDIA Hopper, Ampere e altre di generazioni precedenti con 1-4 memorie centrali, da 16 a 64 GB di memoria GPU per VM e 48 Gb/sec di larghezza di banda della rete.
Istanze bare metal
Utilizza OCI Supercluster con istanze bare metal che includono GPU AMD Instinct, GPU NVIDIA Blackwell o Superchip, GPU NVIDIA Hopper o Superchip e GPU NVIDIA Ampere.
Orchestrazione Kubernetes
Sfrutta i vantaggi di Kubernetes gestito, service mesh e registro dei container per orchestrare la formazione e l'inferenza AI e Machine Learning (ML) con i container.
GPU e prezzi dell'infrastruttura superiori
Prezzi GPU più bassi in tutto il mondo
Le istanze GPU concorrenti di AWS e Azure possono essere sempre più costose.
Vantaggio in termini di prezzo dello storage a blocchi
AWS, Azure e Google Cloud possono essere fino a 6 volte più costosi.
Prezzi Kubernetes migliori
AWS, Azure e Google Cloud possono essere fino a 2 volte più costosi.
Prezzi di rete leader del settore
La larghezza di banda pubblica trasferita su OCI può essere fino a un ordine di grandezza più economica rispetto ad AWS, Azure e Google Cloud.
Accesso a software immediatamente disponibilE
Accedi a software e a immagini disco
Oracle Cloud Marketplace fornisce immagini software e disco per i modelli di data science, analytics, artificial intelligence (AI), e Machine Learning (ML) in modo che i clienti possano ottenere rapidamente insight dai loro dati.
NVIDIA AI Enterprise
Accedi a NVIDIA AI Enterprise, una piattaforma software end-to-end per data science e AI di produzione, inclusi AI generativa, visione informatica e AI vocale.
NVIDIA DGX Cloud
NVIDIA DGX Cloud su OCI è una piattaforma di formazione come servizio AI, che offre un'esperienza serverless per gli sviluppatori ottimizzata per l'AI generativa.
Immagine NVIDIA GPU Cloud Machine
Usa NVIDIA GPU Cloud Machine Image per centinaia di applicazioni ottimizzate per GPU per deep learning, Machine Learning e computazione a elevate prestazioni che coprono una vasta gamma di settori e carichi di lavoro.
NVIDIA RTX Virtual Workstation
Puoi avere grandi prestazioni a livello di workstation ovunque i dipendenti ne abbiano bisogno eseguendo NVIDIA RTX Virtual Workstation su Oracle Cloud.
Controlla l'ambiente di computazione AI e i dati
Cloud distribuito
In combinazione con la computazione GPU, il cloud distribuito di OCI aiuta le organizzazioni a eseguire i servizi AI e cloud dove e come sono necessari.
Sovereign cloud
Supporta la residenza dei dati all'interno di un'area o di un paese, inclusi l'UE, gli Stati Uniti, il Regno Unito e l'Australia.
OCI Dedicated Region
Distribuisci una cloud region completa nel data center con OCI Dedicated Region per mantenere il controllo completo dei dati e delle applicazioni.
Oracle Alloy
Diventa un partner di Oracle Alloy e offri i tuoi servizi cloud per soddisfare esigenze di mercato specifiche.
Microservizi e container
Registro del container
Gli sviluppatori che realizzano applicazioni usando i container sfruttano un servizio di registro container privato gestito da Oracle per memorizzare e condividere le immagini dei container. Metti o estrai le immagini Docker nel o dal registro utilizzando l'API V2 Docker e l'interfaccia a riga di comando (CLI, command line interface) Docker standard. Le immagini possono essere estratte direttamente in un'implementazione di Kubernetes.
Oracle Functions
Functions as a Service (FaaS) consente agli sviluppatori di eseguire applicazioni serverless che si integrano con Oracle Cloud Infrastructure, Oracle Cloud Applications e servizi di terze parti. Ottieni l'efficienza degli sviluppatori insieme alla community del Fn Project open source.
Istanze GPU - casi d'uso
Infrastruttura AI per la formazione e i processi relativi al deep learning
Prepara modelli AI utilizzando Data Science OCI, istanze bare metal e reti di cluster basate su RDMA e GPU NVIDIA.
In questo diagramma vengono descritte due fasi di sviluppo del modello di deep learning: l'addestramento e l'inferenza del modello. Nel processo di addestramento modello illustrato a sinistra, la rete neurale non addestrata viene immessa in un algoritmo di formazione abilitato tramite OCI Data Science, computazione Bare Metal, storage locale e rete di cluster. L'output dell'algoritmo di formazione è un modello addestrato con una nuova funzionalità. La fase di inferenza del modello è descritta sulla destra. Prendiamo in considerazione un modello addestrato come DALL-E 2, che può ricevere input di testo e generare immagini. Un input di testo viene inserito nel modello addestrato, da cui si ottiene un output immagine.
Virtual desktop infrastructure (VDI)
OCI Compute supportata dalle GPU NVIDIA garantisce prestazioni costantemente elevate per VDI.
Virtual desktop infrastructure
CFD e high performance computing utilizzando istanze GPU
OCI consente il computer-aided engineering e la fluidodinamica computazionale per previsioni rapide delle proprietà aerodinamiche degli oggetti.
CFD e High Performance Computing utilizzando le istanze GPU
Istanze GPU - Clienti
Introduzione alle istanze GPU
Prova Oracle AI e ottieni una prova gratuita di 30 giorni
Oracle offre un piano tariffario gratuito per la maggior parte dei servizi AI e un account i prova gratuito con 300 dollari di credito per sperimentare ulteriori servizi cloud. I servizi AI sono una raccolta di offerte, inclusa l'AI generativa, con modelli di Machine Learning predefiniti che semplificano l'applicazione dell'AI alle applicazioni e alle operazioni aziendali da parte degli sviluppatori.
-
Quali servizi Oracle AI e ML offrono un piano tariffario gratuito?
- OCI Speech
- OCI Language
- OCI Vision
- OCI Document Understanding
- Machine Learning in Oracle Database
- OCI Data Labeling
Inoltre, devi pagare solo i costi di computazione e storage per OCI Data Science.
Sfrutta le GPU oggi
Scopri in che modo Oracle aiuta i clienti a sfruttare le GPU NVIDIA e AMD per una vasta gamma di casi d'uso di AI.
-
Cosa puoi fare con le istanze GPU?
- Ospita LLM con GPU NVIDIA e AMD
- Esegui la formazione multinodo distribuita con GPU NVIDIA
- Automatizza le attività con LLM e retrieval-augmented generation
- Ridimensiona l'inferenza NVIDIA NIM
Ulteriori risorse
Scopri di più sull'infrastruttura AI, sui servizi AI e sull'AI generativa e sulla computazione.
Scopri quanto puoi risparmiare con OCI
Le tariffe di Oracle Cloud sono semplici e a prezzi bassi equiparati a livello globale e supportano una vasta gamma di casi d'uso. Per stimare un tasso ridotto, prova lo strumento di stima dei costi e configura i servizi in base alle tue esigenze.
Prova la differenza
- 1/4 dei costi della larghezza di banda in uscita
- 3 volte maggiore il rapporto qualità-prezzo relativo alla computazione
- Stesso prezzo basso in ogni region
- Prezzi bassi senza obblighi a lungo termine
Accedi a esperti di GPU e AI
Ottieni aiuto per creare la tua prossima soluzione GPU o distribuire il carico di lavoro AI sull'infrastruttura AI OCI.
-
Possono rispondere a domande quali
- Introduzione a Oracle Cloud
- Quali carichi di lavoro AI posso eseguire su OCI?
- Quali tipi di servizi AI offre OCI?