Instâncias de GPU

O Oracle Cloud Infrastructure (OCI) Compute fornece escalabilidade líder do setor para instâncias bare metal e de máquina virtual (VM) equipadas com GPUs NVIDIA para gráficos convencionais, inferência de IA, treinamento de IA, gêmeos digitais e HPC.

Anúncio do o primeiro supercomputador de IA em zettascale do mundo
A Modal Labs resolve desafios de computação de IA para desenvolvedores com a OCI (1:35)

OCI no NVIDIA GTC, a conferência sobre IA e metaverso

Principais recursos das instâncias de GPU

A OCI é o único grande provedor de nuvem que oferece instâncias bare metal com GPUs NVIDIA para alto desempenho, sem sobrecarga de virtualização. Para checkpoint durante o treinamento em IA, nossas instâncias oferecem o armazenamento mais local por nó (61,44 TB).

Instâncias de GPU da NVIDIA de alto desempenho

GPUs NVIDIA Tensor Core

A OCI oferece o mais alto valor e desempenho para instâncias de computação bare metal e de máquina virtual com tecnologia de GPUs NVIDIA H100 Tensor Core, GPUs L40S, GPUs A100 Tensor Core, GPU A10 Tensor Core e GPUs NVIDIA de geração mais antiga. A OCI planeja oferecer instâncias com GPUs NVIDIA H200 e Blackwell.

Superchips da NVIDIA

A OCI oferece o NVIDIA GH200 Grace Hopper Superchip e planeja oferecer o GB200 Grace Blackwell Superchip para inferência de LLM.

Rede de clusters de alto desempenho

A rede de cluster de latência ultrabaixa da Oracle, baseada em acesso remoto direto à memória (RDMA), oferece latência em nível de microssegundos.

Instâncias de GPU da NVIDIA de alto desempenho
Largura de banda contra os nós do cluster; 1 nó = 8 GPUs NVIDIA A100

Implemente em VMs, instâncias bare metal e clusters do Kubernetes

Instâncias de VM

Para VMs, escolha entre as arquiteturas GPUHopper, Ampere e mais antigas da NVIDIA com um a quatro núcleos, 16 a 64 GB de memória GPU por VM e até 48 GB/s de largura de banda de rede.

Instâncias Bare metal

Use o OCI Supercluster com instâncias bare metal usando os superchips Blackwell, Hopper ou Ampere da NVIDIA e GPUs com 640 GB de memória de GPU por nó.

Orquestração do Kubernetes

Aproveite o Kubernetes gerenciado, a malha de serviços e o registro de contêiner para orquestrar o treinamento e a inferência de IA e machine learning (ML) com contêineres.

Escolha entre uma variedade de instâncias de processamento VM e bare metal
Comparação do desempenho das GEPUs NVIDIA V100 e A10

Acesse softwares prontamente disponíveis

Acesse softwares e imagens de disco

O Oracle Cloud Marketplace oferece softwares e imagens de disco para ciência de dados, análise avançada, inteligência artificial (IA) e modelos de machine learning (ML) para que os clientes possam obter insights rapidamente através de seus dados.

NVIDIA AI Enterprise

Tenha acesso à NVIDIA AI Enterprise, uma plataforma de software de ponta a ponta para ciência de dados e IA de produção, incluindo IA generativa, visão computacional e IA de fala.

NVIDIA DGX Cloud

A NVIDIA DGX Cloud na OCI é uma plataforma de treinamento como serviço de IA, que oferece uma experiência sem servidor para desenvolvedores otimizada para IA generativa.

Imagem da Máquina NVIDIA GPU Cloud

Use a Imagem da Máquina NVIDIA GPU Cloud para centenas de aplicações otimizadas para GPU para machine learning, aprendizado profundo e processamento de alto desempenho, abrangendo uma ampla gama de setores e cargas de trabalho.

NVIDIA RTX Virtual Workstation

Ofereça alto desempenho de estação de trabalho onde quer que os funcionários precisem executando o NVIDIA RTX Virtual Workstation na Oracle Cloud.

Controle seu ambiente e dados de computação de IA

Nuvem distribuída

Quando combinada com computação GPU, a nuvem distribuída da OCI ajuda as organizações a executar serviços de IA e nuvem onde e como eles são necessários.

Nuvem soberana

Dê suporte à residência de dados em uma região ou país, incluindo a UE, os EUA, o Reino Unido e a Austrália.

OCI Dedicated Region

Implemente uma região de nuvem completa em seu data center com a OCI Dedicated Region para manter o controle total de seus dados e aplicações.

Oracle Alloy

Torne-se um parceiro do Oracle Alloy e forneça seus serviços de nuvem para atender a necessidades específicas do mercado.

Microsserviços e contêineres

Registro de contêiner

Os desenvolvedores que criam aplicações usando contêineres utilizam um serviço de registro de alta disponibilidade para contêineres privados gerenciado pela Oracle a fim de armazenar e compartilhar imagens de contêiner. Empurre ou puxe imagens Docker de e para o registro usando o Docker API V2 e a CLI (Command Line Interface, Interface de linha de comando) Docker padrão. As imagens podem ser extraídas diretamente em uma implementação de Kubernetes.

Oracle Functions

As FaaS (Functions as a Service, Funções como serviço) permitem que desenvolvedores executem aplicações serverless que se integram à Oracle Cloud Infrastructure, aos Oracle Cloud Applications e a serviços de terceiros. Obtenha eficiência do desenvolvedor com a comunidade de código aberto Fn Project.

Fale com um especialista da Oracle sobre como acelerar as suas cargas de trabalho em GPU.

Casos de uso das instâncias de GPU

Infraestrutura de IA para treinamento e inferência de deep learning

Treine modelos de IA usando a OCI Data Science, instâncias bare metal, rede de cluster baseada em RDMA e GPUs NVIDIA.


Treinamento e inferência de IA Este diagrama descreve dois estágios de desenvolvimento do modelo de deep learning: treinamento do modelo e inferência do modelo. No treinamento do modelo à esquerda, a rede neural não treinada é inserida em um algoritmo de treinamento habilitado pelo OCI Data Science, computação bare metal, armazenamento local e rede de cluster. O resultado do algoritmo de treinamento é um modelo treinado com uma nova capacidade. A etapa de inferência do modelo está descrita à direita. Considere um modelo treinado, como o DALL-E 2, que pode receber entradas de texto e gerar imagens. Uma texto é inserido no modelo treinado e uma imagem do modelo é fornecida.

Infraestrutura de Desktop Virtual (VDI, Virtual Desktop Infrastructure)

OCI Compute impulsionado por GPUs da NVIDIA oferece alto desempenho consistente para VDI.


Infraestrutura de Desktop Virtual Infraestrutura de Desktop Virtual

CFD e processamento de alto desempenho usando instâncias de GPU

A OCI permite a engenharia auxiliada por computador e a dinâmica de fluidos computacional para previsões rápidas das propriedades aerodinâmicas dos objetos.


CFD e processamento de alto desempenho usando instâncias de GPUCFD e processamento de alto desempenho usando instâncias de GPU

Instâncias de GPU – clientes

Explore mais histórias de clientes

Especificações e preços de GPU

Especificações das instâncias de GPU

As instâncias estão disponíveis como máquinas virtuais e bare metal, conferindo flexibilidade e alto desempenho.

Forma
GPUs
Arquitetura
Interconexão de GPU
Memória de GPU
Núcleos de CPU
Memória de CPU
Armazenamento
Rede
Preço por hora da GPU (US$)
Preço por hora do servidor (US$)
Treinamento em massa de IA, análises de dados e HPC
BM.GPU.A100-v2.8
8x Núcleos NVIDIA A100 80GB Tensor
Ampere
NVIDIA NVLINK
640 GB
128
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$32
BM.GPU4.8
8x Núcleos NVIDIA A100 40GB Tensor
Ampere
NVIDIA NVLINK
320 GB
64
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$24,4
Pouco treinamento de IA, inferência, streaming, jogos e infraestrutura de desktop virtual
VM.GPU.A10.1
(novo)
1x Núcleo NVIDIA A10 Tensor
Ampere
N/A
24 GB
15
240 GB
Armazenamento em blocos
24 Gb/s

US$2
VM.GPU.A10.2
(novo)
2x Núcleos NVIDIA A10 Tensor
Ampere
N/A
48 GB
30
480 GB
Armazenamento em blocos
48 Gb/s

US$4
BM.GPU.A10.4
4x Núcleos NVIDIA A10 Tensor
Ampere
N/A
96 GB
64
1,024 GB
2x 3,84TB NVMe
2x50 Gb/s

US$8
VM.GPU3.1
1 NVIDIA V100 Tensor Core
Volta
N/A
16 GB
6
90 GB
Armazenamento em blocos
4 Gb/s

US$2,95
VM.GPU3.2
2 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
32 GB
12
180 GB
Armazenamento em blocos
8 Gb/s

US$5,9
VM.GPU3.4
4 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
64 GB
24
360 GB
Armazenamento em blocos
25 Gb/s

US$11,8
BM.GPU3.8
8 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
128 GB
52
768 GB
Armazenamento em blocos
2x 25 Gb/s

US$23,6
VM.GPU2.1
1x NVIDIA P100
Pascal
N/A
16 GB
12
72 GB
Armazenamento em blocos
8 Gb/s

US$1,28
BM.GPU2.2
2x NVIDIA P100
Pascal
N/A
32 GB
28
192 GB
Armazenamento em blocos
2x 25 Gb/s

US$2,55
  • *Cada nó NVIDIA A100 tem oito NVIDIA ConnectX SmartNICs de 2 a 100 Gb/s conectados por meio de blocos de rede de cluster de alto desempenho da OCI, resultando em 1.600 Gb/s de largura de banda entre os nós.
11 de setembro de 2024

Anúncio do maior e primeiro supercomputador de IA em zettascale do mundo na nuvem

Mahesh Thiagarajan, Vice-Presidente Executivo, OCI

Os clientes da Oracle Cloud Infrastructure (OCI) têm executado algumas das cargas de trabalho de IA mais avançadas na OCI. O seu sucesso reforça a nossa estratégia de oferecer aos nossos clientes a infraestrutura de IA de mais alto desempenho, com controles avançados de segurança e soberania, com o melhor valor na nuvem.

Leia a publicação completa

Blogs em destaque

Recursos

Comece já com máquinas virtuais e bare metal


Modo Gratuito da Oracle Cloud

Crie, teste e implemente aplicações na Oracle Cloud gratuitamente. Inscreva-se uma vez e tenha acesso a duas ofertas gratuitas.

Experimente a Oracle Cloud gratuitamente

Treinamento na nuvem - Oracle Cloud Infrastructure

Explore os recursos de treinamento na nuvem com os vídeos da Oracle Cloud Infrastructure, laboratórios de aprendizagem individualizados e certificações.

Descubra o que você pode aprender

Explore a Oracle Cloud Infrastructure

A Oracle Cloud Infrastructure combina a elasticidade e a utilidade da nuvem pública com controle, segurança, desempenho e previsibilidade de ambientes de computação on-premises.

Leia o guia (PDF)