Instancias de GPU

Oracle Cloud Infrastructure (OCI) Compute proporciona escalabilidad líder en la industria y rendimiento-costo para instancias de metal desnudo y máquinas virtuales (VM) impulsadas por GPUs de NVIDIA para gráficos convencionales, inferencia de IA, entrenamiento de IA, gemelos digitales y HPC.

Presentamos la primera supercomputadora de IA a zetascala del mundo
Inworld impulsa la innovación de la experiencia de videojuegos con OCI AI Infrastructure (2:50)
Obtén más información sobre los nuevos aceleradores en OCI

OCI Supercluster puede admitir decenas de miles de GPUs de NVIDIA y AMD, con beneficios adicionales como aceleración por hardware, instancias de metal desnudo sin sobrecarga de hipervisor y mucho más.

¿Por qué utilizar Oracle Cloud Infrastructure para instancias de GPU?

Escalabilidad

131 072

Número máximo de GPU en un OCI Supercluster1

Rendimiento

3.200

Hasta 3.200 Gb/s de ancho de banda de red de clúster RDMA2

Valor

220%

Las GPU para otros CSP pueden ser hasta un 220 % más costosas3

Opciones

VM/BM

Ajustes de tamaño con máquina virtual y rendimiento con instancias con hardware dedicado

1. OCI Supercluster escala hasta 131 072 GPU NVIDIA B200 (planeado); más de 100 000 GPU NVIDIA B200 en Superchips NVIDIA GB200 (planeado); 65 536 GPU H200; 32 768 GPU NVIDIA A100; 16 384 GPU NVIDIA H100; y 16 384 GPU AMD MI300X.

2. Para instancias con hardware dedicado con GPU NVIDIA H100 y GPU AMD MI300X.

3. Basado en precios bajo demanda a 5 de junio de 2024.

Regístrate en el nuevo programa de prueba antes de comprar para OCI Compute con GPUs AMD Instinct MI300X.

Funciones clave de instancias de GPU

Oracle Cloud Infrastructure es el único proveedor principal en la nube que ofrece instancias con hardware dedicado con GPU NVIDIA y AMD para obtener un alto desempeño sin excesivos costos de virtualización. Para establecer puntos de control durante el entrenamiento de IA, nuestras instancias proporcionan la mayor cantidad de almacenamiento local por nodo (61,4 TB con GPU H100). Para garantizar el equilibrio entre rendimiento y precio, las máquinas virtuales de Oracle Cloud Infrastructure con GPU NVIDIA son siempre más baratas que AWS y Azure.

GPU NVIDIA y AMD de alto rendimiento

GPU NVIDIA Tensor Core

Oracle Cloud Infrastructure ofrece el mayor valor y rendimiento para instancias informáticas de máquina virtual y hardware dedicado con tecnología de GPU Tensor Core de NVIDIA H100, GPU L40S, GPU Tensor Core de A100, GPU Tensor Core de A10 y GPU NVIDIA de generaciones anteriores. Oracle Cloud Infrastructure planea ofrecer instancias con las GPU NVIDIA H200 y GPU Blackwell.

Superchips de NVIDIA

Oracle Cloud Infrastructure ofrece el Superchip NVIDIA GH200 Grace Hopper y planea ofrecer el Superchip GB200 Grace Blackwell para la inferencia de LLM.

GPU AMD Instinct

Oracle Cloud Infrastructure ofrece GPU AMD Instinct MI300X con 192 GB de memoria a un precio competitivo.

Redes de cluster de alto rendimiento.

La red de clústeres de latencia ultrabaja de Oracle, basada en el acceso remoto directo a la memoria (RDMA), proporciona una latencia de microsegundos.

Instancias de GPU NVIDIA de alto rendimiento
Ancho de banda en nodos de cluster; 1 nodo = 8 GPU NVIDIA A100

Implementa en máquinas virtuales, instancias con hardware dedicado y clústeres de Kubernetes

Instancias de máquina virtual

En el caso de máquinas virtuales, elige entre arquitecturas de GPU Hopper, Ampere y versiones anteriores de NVIDIA de entre uno y cuatro núcleos, 16 a 64 GB de memoria de GPU por máquina virtual y hasta 480 GB de ancho de banda de red.

Instancias de bare metal

Utiliza OCI Supercluster con instancias con hardware dedicado que incluyen GPU AMD Instinct, GPU o Superchips NVIDIA Blackwell, GPU o Superchips NVIDIA Hopper y GPU NVIDIA Ampere.

Organización de Kubernetes

Aprovecha las ventajas de Kubernetes gestionado, malla de servicios y registro de contenedores para organizar el entrenamiento y la inferencia de IA y aprendizaje automático (ML) con contenedores.

Elige entre una variedad de instancias informáticas de VM y con hardware dedicado.
Comparación del rendimiento de GPU NVIDIA V100 y A10

Accede a software de fácil acceso

Acceda a imágenes de software y disco

Oracle Cloud Marketplace proporciona imágenes de software y disco para modelos de ciencia de datos, análisis, inteligencia artificial (IA), y aprendizaje automático (ML) para que los clientes obtengan rápidamente insights a partir de sus datos.

NVIDIA AI Enterprise

Accede a NVIDIA AI Enterprise, una plataforma de software integral para la ciencia de datos y la IA de producción, que incluye IA generativa, visión informática e IA de voz.

NVIDIA DGX Cloud

NVIDIA DGX Cloud en OCI es una plataforma de entrenamiento de IA como servicio que ofrece a los desarrolladores una experiencia sin servidor optimizada para la IA generativa.

NVIDIA GPU Cloud Machine Image

Utiliza NVIDIA GPU Cloud Machine Image para cientos de aplicaciones optimizadas para GPU destinadas al aprendizaje automático, aprendizaje profundo y computación de alto rendimiento que abarcan una amplia gama de sectores y cargas de trabajo.

NVIDIA RTX Virtual Workstation

Ofrece un alto desempeño de las estaciones de trabajo cuando los colaboradores lo necesiten ejecutando NVIDIA RTX Virtual Workstation en Oracle Cloud.

Controla tu entorno informático de IA y tus datos

Nube distribuida

Cuando se combina con los recursos informáticos de GPU, la nube distribuida de OCI ayuda a las organizaciones a ejecutar servicios de IA y nube donde y cómo se necesiten.

Nube soberana

Admite la residencia de datos en una región o país, incluidos UE, EE.UU, Reino Unido y Australia.

OCI Dedicated Region

Despliega una región de nube completa en tu centro de datos con OCI Dedicated Region para mantener el control total de tus datos y aplicaciones.

Oracle Alloy

Conviértete en socio de Oracle Alloy y ofrece tus servicios en la nube para satisfacer las necesidades específicas del mercado.

Microservicios y contenedores

Container Registry

Los desarrolladores que crean aplicaciones con contenedores utilizan un servicio de registro de contenedores privado y de alta disponibilidad gestionado por Oracle para almacenar y compartir imágenes de contenedores. Inserta o extrae imágenes Docker hacia y desde el registro mediante la API Docker V2 y la interfaz de línea de comandos (CLI) estándar de Docker. Las imágenes se pueden extraer directamente en una implementación de Kubernetes.

Oracle Functions

Functions as a Service (FaaS) permite que los desarrolladores ejecuten aplicaciones sin servidor integrables en Oracle Cloud Infrastructure, Oracle Cloud Applications y servicios de terceros. Impulsa la eficiencia de los desarrolladores junto con la comunidad de Fn Project de código abierto.

Instancias de GPU: casos de uso

Infraestructura de IA para la formación y la inferencia de aprendizaje profundo

Entrena modelos de IA mediante OCI Data Science, instancias de hardware dedicado, redes de clusters basadas en RDMA y GPU de NVIDIA.


Entrenamiento e inferencia de IA En este diagrama se describen dos etapas del desarrollo de modelos de aprendizaje profundo: el entrenamiento y la inferencia de modelos. En el entrenamiento de modelo de la izquierda, la red neuronal no entrenada se introduce en un algoritmo de entrenamiento con tecnología de OCI Data Science, recursos informáticos de hardware dedicado, almacenamiento local y redes de clústeres. La salida del algoritmo de entrenamiento es un modelo entrenado con una nueva funcionalidad. El paso de inferencia del modelo se describe a la derecha. Tomemos un modelo entrenado como DALL-E 2, que puede tomar entradas de texto y generar imágenes. Se introduce una entrada de texto en el modelo entrenado y se proporciona una salida de imagen del modelo.

Infraestructura de escritorio virtual (VDI)

Los recursos informáticos de OCI con GPU NVIDIA proporcionan un alto rendimiento constante para VDI.


Infraestructura de escritorio virtual Infrastructura de escritorio virtual

CFD y recursos informáticos de alto rendimiento con instancias de GPU

OCI permite la ingeniería asistida por computadora y la dinámica de fluidos computacional para predicciones rápidas de las propiedades aerodinámicas de los objetos.


CFD y recursos informáticos de alto rendimiento con instancias de GPU CFD y recursos informáticos de alto rendimiento mediante instancias de GPU

Instancias de GPU: clientes

Explora más historias de clientes
18 de noviembre de 2024

Ahora disponible en general: El supercomputador de IA más grande y rápido en la nube

Sagar Zanwar, Principal Product Manager, OCI
Akshai Parthasarathy, director de marketing de productos, OCI

Nos complace anunciar la disponibilidad general de Oracle Cloud Infrastructure (OCI) Supercluster con GPU NVIDIA H200 Tensor Core. El supercomputador de IA más grande disponible en la nube, nuestro último Supercluster escala hasta 65 536 GPU, liderando la industria.

Lee el post completo

Blogs destacados

Introducción a las instancias de GPU

Pruebe Oracle AI y obtén una versión de prueba de 30 días

Oracle ofrece un nivel de precios gratuito para la mayoría de los servicios de IA, así como una cuenta de prueba gratuita con 300 dólares estadounidenses en créditos para probar servicios adicionales en la nube. Los servicios de IA son una recopilación de ofertas, como la IA generativa, con modelos de aprendizaje automático predefinidos que facilitan a los desarrolladores aplicar la IA a las aplicaciones y operaciones empresariales.

  • ¿Qué servicios de IA y ML de Oracle ofrecen un nivel de precios gratuito?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Aprendizaje automático de Oracle Database
    • Oracle Data Labeling

    También tienes que pagar solo los costos de computación y almacenamiento para OCI Data Science.

Descubre todo lo que puedes ahorrar con OCI

Los precios de Oracle Cloud son sencillos, con tarifas consistentemente bajas en todo el mundo, y con apoyo a una amplia gama de casos de uso. Para hacer una estimación de tu tarifa reducida, da un vistazo a la calculadora de costos y configura los servicios que se adapten mejor a tus necesidades.

Accede a un experto en GPU e IA

Obtén ayuda para crear tu próxima solución de GPU o implementar tu carga de trabajo de IA en la infraestructura de IA de OCI.

  • Pueden responder a preguntas como

    • ¿Cómo puedo empezar a usar Oracle Cloud?
    • ¿Qué tipo de cargas de trabajo de IA puedo ejecutar en OCI?
    • ¿Qué tipos de servicios de IA ofrece OCI?