Oracle ha anunciado hoyOracle Cloud Infrastructure (OCI) Zettascale10, el superordenador de IA más grande en la nube. OCI Zettascale10 conecta cientos de miles de GPU de NVIDIA en varios centros de datos para formar clústeres multigigavatio que ofrecen un rendimiento máximo sin precedentes hasta de 16 zettaFLOPS. OCI Zettascale10 es el tejido que sustenta el superclúster insignia construido en colaboración con OpenAI en Abilene, Texas, dentro del proyecto Stargate. Basado en la arquitectura de red RoCE de Oracle Acceleron de última generación, OCI Zettascale10 se basa en la infraestructura de IA de NVIDIA, que ofrece una escala revolucionaria, una latencia de GPU-GPU extremadamente baja en todo el clúster, una relación precio-rendimiento líder del sector, una mejor utilización del clúster y la fiabilidad necesaria para cargas de trabajo de IA a gran escala.

OCI Zettascale10 es una potente evolución del primer clúster de informática en la nube de Zettascale, que se presentó en septiembre de 2024. Los clústeres de OCI Zettascale10 se alojan en grandes campus de centros de datos de gigavatios, hiperoptimizados para densidad dentro de un radio de dos kilómetros, de cara a ofrecer la mejor latencia de GPU-GPU para cargas de trabajo de entrenamiento de IA a gran escala. Esta arquitectura se está desplegando con OpenAI en la centro Stargate en Abilene.

"Con OCI Zettascale10, estamos combinando la innovadora arquitectura de red de Oracle Acceleron RoCE de OCI con la infraestructura de IA de NVIDIA de última generación para ofrecer capacidad de IA multigigavatio a una escala inigualable", comenta Mahesh Thiagarajan, vicepresidente ejecutivo de Oracle Cloud Infrastructure. "Los clientes pueden construir, entrenar e implementar sus modelos de IA más grandes en producción utilizando menos energía por unidad de rendimiento y garantizando una elevada fiabilidad. Además, los clientes tendrán la libertad de operar en la nube distribuida de Oracle con sólidos controles de soberanía de datos e IA".

"El tejido de redes y clústeres de OCI Zettascale10 se desarrolló y desplegó primero en la sede insignia de Stargate en Abilene, Texas —el superclúster que mantenemos conjuntamente con Oracle", señala Peter Hoeschele, vicepresidente de Infraestructura y Recursos informáticos industriales, OpenAI. "El diseño personalizado altamente escalable de RoCE maximiza el rendimiento en todo el tejido a escala de gigavatio, al tiempo que centra la mayor parte de su potencia en recursos informáticos. Estamos encantados de seguir trabajando juntos para ampliar Abilene y el programa Stargate en general".

OCI planea ofrecer despliegues de varios gigavatios de OCI Zettascale10 a los clientes. Inicialmente, los clústeres OCI Zettascale10 se dirigirán a despliegues de hasta 800 000 GPU de NVIDIA que ofrecen un rendimiento predecible y una sólida rentabilidad, con un alto ancho de banda de GPU a GPU activado por la red RoCEv2 de latencia ultrabaja de Oracle Acceleron.

"Entre Oracle y NVIDIA, se está produciendo una unión que combina la nube distribuida de OCI y nuestra infraestructura de IA de pila completa para ofrecer IA a una escala extraordinaria", comenta Ian Buck, vicepresidente de hiperescala de NVIDIA. "Con la infraestructura de IA de pila completa de NVIDIA, OCI Zettascale10 proporciona el tejido informático necesario para avanzar en la investigación de IA de vanguardia y ayudar a las organizaciones de todo el mundo a pasar de la experimentación a la IA industrializada".

Las redes RoCE de Oracle Acceleron ofrecen escalabilidad, fiabilidad y eficiencia para la IA en OCI Zettascale10

La arquitectura de red de Oracle Acceleron RoCE es una innovación fundamental para que los clientes creen, entrenen e inferan cargas de trabajo de IA en la nube, al tiempo que aprovechan al máximo la potencia y las capacidades de OCI Zettascale10. Utiliza la capacidad de conmutación incorporada en NIC modernas de GPU (tarjetas de interfaz de red), lo que les permite conectarse a varios conmutadores simultáneamente, cada uno en un plano de red separado y aislado. Este enfoque aumenta drásticamente la escala y fiabilidad generales de la red al trasladar el tráfico a otros planos de red cuando uno presenta un problema, evitando costosas interrupciones y reinicios.Las funciones clave de las redes de Oracle Acceleron RoCE que ayudan a los clientes con sus cargas de trabajo de IA críticas incluyen:

• Un tejido amplio, poco profundo y resistente: ayuda a los clientes a desplegar clústeres de IA más grandes, más rápido y por un coste total menor, mediante el uso de la NIC de GPU como mini conmutador y la conexión a varios planos aislados de manera tanto física como lógica. Esto aumenta la escala al tiempo que reduce los niveles de red, el coste y la energía.
• Alta fiabilidad: ayuda a los clientes a mantener la estabilidad de los trabajos de IA al eliminar el uso compartido de datos entre planos. Esto aleja el tráfico de los planos inestables o congestionados, lo que mantiene los trabajos de formación en funcionamiento y evita incurrir en los elevados costes que implica reiniciar los puntos de control.
• Rendimiento consistente: proporciona a los clientes una latencia de GPU a GPU más uniforme al eliminar un nivel respecto a los diseños tradicionales de tres niveles, mejorando la previsibilidad para el entrenamiento y la inferencia de IA a gran escala.
• Óptica de eficiencia energética: admite cargas de trabajo de los clientes con óptica de conexión lineal (LPO) y óptica de receptor lineal (LRO) para reducir los costos de red y refrigeración sin sacrificar el rendimiento de 400G/800G. Esto permite a los clientes dedicar una parte mayor de su presupuesto de energía a los recursos informáticos.
• Flexibilidad operativa: ayuda a los clientes a reducir el tiempo de inactividad y acelerar las implementaciones de funciones mediante el mantenimiento a nivel plano y las actualizaciones independientes del sistema operativo de la red.

  Oracle Cloud Infrastructure ya recibe pedidos para OCI Zettascale10, que estará disponible en la segunda mitad del próximo año natural, hasta con 800 000 plataformas de GPU de infraestructura de IA de NVIDIA.

Otros recursos

• Mira la keynote de Oracle AI Worldcon Mahesh Thiagarajan
• Obtén más información sobre OCI AI infrastructure