Oracle ha annunciato Oracle Cloud Infrastructure (OCI) Zettascale10, il più grande supercomputer AI nel cloud. OCI Zettascale10 connette centinaia di migliaia di GPU NVIDIA su più data center per formare cluster multi-gigawatt che offrono, alle massime prestazioni, fino a 16 zettaFLOPS. OCI Zettascale10 è la struttura alla base del supercluster di punta costruito in collaborazione con OpenAI ad Abilene, in Texas, come parte del progetto Stargate. Costruito sull'architettura di rete di nuova generazione Oracle Acceleron RoCE, OCI Zettascale10 è basato sull'infrastruttura NVIDIA AI che offre una scalabilità rivoluzionaria, una latenza da GPU a GPU estremamente bassa in tutto il cluster, un rapporto prezzo/prestazioni ineguagliato nel settore, un utilizzo migliore dei cluster e l'affidabilità richiesta per i carichi di lavoro AI su larga scala.

OCI Zettascale10 è una potente evoluzione del primo cluster di cloud computing Zettascale, introdotto a settembre 2024. I cluster OCI Zettascale10 sono ospitati in campus di data center gigawatt di grandi dimensioni che sono iper-ottimizzati per la densità all'interno di un raggio di due chilometri per offrire la migliore latenza GPU-GPU per carichi di lavoro di addestramento AI su larga scala. Questa architettura viene implementata con OpenAI nel sito Stargate di Abilene.

"Con OCI Zettascale10, stiamo fondendo l'innovativa architettura di rete Oracle Acceleron RoCE di OCI con l'infrastruttura NVIDIA AI per fornire una capacità di intelligenza artificiale multi-gigawatt su una scala mai vista prima", ha dichiarato Mahesh Thiagarajan, executive vice president di Oracle Cloud Infrastructure. "I clienti possono creare, addestrare e mettere in produzione i loro più grandi modelli AI utilizzando meno potenza per unità di performance e ottenendo un'affidabilità elevata. Inoltre, i clienti avranno la libertà di operare in tutto il cloud distribuito di Oracle con solidi controlli di sovranità su dati e AI".

"La struttura di rete e cluster OCI Zettascale10 è stata sviluppata e implementata ad Abilene, in Texas, nel nostro sito Stargate, ed è il nostro supercluster in collaborazione con Oracle", ha dichiarato Peter Hoeschele, vice president, Infrastructure and Industrial Compute, OpenAI. "Il design RoCE personalizzato altamente scalabile massimizza le prestazioni a livello di fabric su scala gigawatt, mantenendo al contempo la maggior parte della potenza concentrata sul computing. Siamo entusiasti di continuare a far crescere Abilene e il programma Stargate".

OCI offrirà ai clienti implementazioni multi-gigawatt di OCI Zettascale10. Inizialmente, i cluster OCI Zettascale10 si occuperanno di distribuzioni fino a 800.000 GPU NVIDIA  offrendo prestazioni prevedibili e un'elevata efficienza dei costi, con un'elevata larghezza di banda GPU-GPU abilitata dalla rete RoCEv2 a bassissima latenza di Oracle Acceleron.

"Oracle e NVIDIA stanno unendo il cloud distribuito di OCI e la nostra infrastruttura AI full-stack per fornire intelligenza artificiale su una scala straordinaria", ha dichiarato Ian Buck, vice president di Hyperscale, NVIDIA. "Grazie all'infrastruttura AI full-stack NVIDIA, OCI Zettascale10 fornisce la struttura di calcolo necessaria per far progredire la ricerca AI all'avanguardia e aiutare le organizzazioni di tutto il mondo a passare dalla sperimentazione all'AI industrializzata".

Il networking Oracle Acceleron RoCE offre scalabilità, affidabilità ed efficienza per l'AI su OCI Zettascale10

L'architettura di rete di Oracle Acceleron RoCE è un'innovazione fondamentale per i clienti per creare, addestrare ed eseguire inferenze dei carichi di lavoro AI nel cloud, sfruttando al contempo la potenza e le funzionalità di OCI Zettascale10. Utilizza la funzionalità di commutazione integrata nelle  NIC (network interface card) GPU moderne, consentendo loro di connettersi a più switch contemporaneamente, con ciascuno su un piano di rete separato e isolato. Questo approccio aumenta notevolmente la scalabilità e l'affidabilità complessive della rete spostando il traffico su altri piani di rete quando si riscontrano problemi, evitando sospensioni e riavvii costosi. Fra le funzionalità chiave del networking Oracle Acceleron RoCE che aiutano i clienti con i loro carichi di lavoro AI critici ci sono:

• Un fabric ampio, poco profondo e resiliente: aiuta i clienti a implementare cluster AI più grandi più velocemente a un costo totale inferiore utilizzando la NIC GPU come mini-switch e collegandosi a più piani isolati fisicamente e logicamente. Ciò aumenta la scalabilità riducendo al contempo i livelli di rete, i costi e l'alimentazione.
• Maggiore affidabilità: aiuta i clienti a mantenere la stabilità dei processi AI eliminando la condivisione dei dati tra i piani. Ciò allontana il traffico da piani instabili o congestionati, il che mantiene in esecuzione i lavori di formazione ed evita costosi riavvii di checkpoint.
• Performance uniformi: offre AI clienti una latenza GPU-GPU più uniforme rimuovendo un livello rispetto ai tradizionali design a tre livelli, migliorando la prevedibilità per la formazione e l'inferenza AI su larga scala.
• Ottica efficiente dal punto di vista energetico: supporta i carichi di lavoro dei clienti con Linear Pluggable Optics (LPO) e Linear Receiver Optics (LRO) per ridurre i costi di rete e raffreddamento senza sacrificare il throughput 400G/800G. Questo permette ai clienti di dedicare più potenza al calcolo.
• Flessibilità operativa: aiuta i clienti a ridurre i tempi di inattività e ad accelerare le implementazioni delle funzionalità attraverso la manutenzione a livello di piano e gli aggiornamenti indipendenti del sistema operativo di rete.

OCI sta già raccogliendo ordini per OCI Zettascale10, che sarà disponibile nella seconda metà del prossimo anno, con fino a 800.000 piattaforme GPU dell'infrastruttura NVIDIA AI.

Ulteriori risorse

• Guarda il keynote dell'Oracle AI World con Mahesh Thiagarajan
• Scopri di più su OCI AI infrastructure