Instâncias de GPU

O Oracle Cloud Infrastructure (OCI) Compute oferece escalabilidade e desempenho líderes do setor para instâncias bare metal e de máquina virtual (VM) equipadas com as GPUs NVIDIA e AMD para gráficos convencionais, inferência de IA, treinamento em IA, gêmeos digitais e HPC.

Leia nossa atualização sobre IA agêntica
vídeo Twelve Labs treina modelos de vídeo de IA com a infraestrutura da Oracle AI (1:51)

OCI no NVIDIA GTC, a conferência sobre IA e metaverso

Principais recursos das instâncias de GPU

A OCI é o único grande provedor de nuvem que oferece instâncias bare metal com GPUs NVIDIA e AMD para alto desempenho, sem sobrecarga de virtualização. Para fazer checkpoint durante o treinamento de IA, nossas instâncias fornecem o armazenamento mais local por nó (61,4 TB com GPUs H100).

GPUs NVIDIA e AMD de alto desempenho

GPUs NVIDIA Tensor Core

A OCI oferece o mais alto valor e desempenho para instâncias de computação bare metal e de máquina virtual alimentadas por GPUs NVIDIA Blackwell, GPUs H200 Tensor Core, GPUs H100 Tensor Core, GPUs L40S, GPUs A100 Tensor Core, GPUs A10 Tensor Core e GPUs NVIDIA de geração anterior.

Superchips da NVIDIA

A OCI oferece o Superchip NVIDIA GB200 Grace Blackwell em superclusters que se dimensionam para mais de 100.000 GPUs.

Aceleradores AMD Instinct

A OCI oferece GPUs AMD Instinct MI300X com 192 GB de memória por um preço competitivo de US$ 6 por GPU/hora.

Rede de clusters de alto desempenho

A rede de cluster de latência ultrabaixa da Oracle, baseada em acesso remoto direto à memória (RDMA), oferece latência em nível de microssegundos.

Instâncias de GPU da NVIDIA de alto desempenho
Treinamento GPT-3 175B: tempo de treinamento versus número de GPUs NVIDIA H100 imeplementadas no OCI Supercluster (0:55). Fonte: Desempenho da OCI para treinamento em MLPerf v4.1

Implemente em VMs, instâncias bare metal e clusters do Kubernetes

Instâncias de VM

Para VMs, escolha entre as arquiteturas GPUHopper, Ampere e mais antigas da NVIDIA com um a quatro núcleos, 16 a 64 GB de memória GPU por VM e até 48 GB/s de largura de banda de rede.

Instâncias Bare metal

Use o OCI Supercluster com instâncias bare metal que incluem GPUs AMD Instinct, GPUs NVIDIA Blackwell ou Superchips, GPUs NVIDIA Hopper ou Superchips e GPUs NVIDIA Ampere.

Orquestração do Kubernetes

Aproveite o Kubernetes gerenciado, a malha de serviços e o registro de contêiner para orquestrar o treinamento e a inferência de IA e machine learning (ML) com contêineres.

Escolha entre uma variedade de instâncias de processamento VM e bare metal
Comparação do desempenho das GEPUs NVIDIA V100 e A10

Acesse softwares prontamente disponíveis

Acesse softwares e imagens de disco

O Oracle Cloud Marketplace oferece softwares e imagens de disco para ciência de dados, análise avançada, inteligência artificial (IA) e modelos de machine learning (ML) para que os clientes possam obter insights rapidamente através de seus dados.

NVIDIA AI Enterprise

Tenha acesso à NVIDIA AI Enterprise, uma plataforma de software de ponta a ponta para ciência de dados e IA de produção, incluindo IA generativa, visão computacional e IA de fala.

NVIDIA DGX Cloud

A NVIDIA DGX Cloud na OCI é uma plataforma de treinamento como serviço de IA, que oferece uma experiência sem servidor para desenvolvedores otimizada para IA generativa.

Imagem da Máquina NVIDIA GPU Cloud

Use a Imagem da Máquina NVIDIA GPU Cloud para centenas de aplicações otimizadas para GPU para machine learning, aprendizado profundo e processamento de alto desempenho, abrangendo uma ampla gama de setores e cargas de trabalho.

NVIDIA RTX Virtual Workstation

Ofereça alto desempenho de estação de trabalho onde quer que os funcionários precisem executando o NVIDIA RTX Virtual Workstation na Oracle Cloud.

Controle seu ambiente e dados de computação de IA

Nuvem distribuída

Quando combinada com computação GPU, a nuvem distribuída da OCI ajuda as organizações a executar serviços de IA e nuvem onde e como eles são necessários.

Nuvem soberana

Dê suporte à residência de dados em uma região ou país, incluindo a UE, os EUA, o Reino Unido e a Austrália.

OCI Dedicated Region

Implemente uma região de nuvem completa em seu data center com a OCI Dedicated Region para manter o controle total de seus dados e aplicações.

Oracle Alloy

Torne-se um parceiro do Oracle Alloy e forneça seus serviços de nuvem para atender a necessidades específicas do mercado.

Microsserviços e contêineres

Registro de contêiner

Os desenvolvedores que criam aplicações usando contêineres utilizam um serviço de registro de alta disponibilidade para contêineres privados gerenciado pela Oracle a fim de armazenar e compartilhar imagens de contêiner. Empurre ou puxe imagens Docker de e para o registro usando o Docker API V2 e a CLI (Command Line Interface, Interface de linha de comando) Docker padrão. As imagens podem ser extraídas diretamente em uma implementação de Kubernetes.

Oracle Functions

As FaaS (Functions as a Service, Funções como serviço) permitem que desenvolvedores executem aplicações serverless que se integram à Oracle Cloud Infrastructure, aos Oracle Cloud Applications e a serviços de terceiros. Obtenha eficiência do desenvolvedor com a comunidade de código aberto Fn Project.

Fale com um especialista da Oracle sobre como acelerar as suas cargas de trabalho em GPU.

Casos de uso das instâncias de GPU

Infraestrutura de IA para treinamento e inferência de deep learning

Treine modelos de IA usando a OCI Data Science, instâncias bare metal, rede de cluster baseada em RDMA e GPUs NVIDIA.


Treinamento e inferência de IA Este diagrama descreve dois estágios de desenvolvimento do modelo de deep learning: treinamento do modelo e inferência do modelo. No treinamento do modelo à esquerda, a rede neural não treinada é inserida em um algoritmo de treinamento habilitado pelo OCI Data Science, computação bare metal, armazenamento local e rede de cluster. O resultado do algoritmo de treinamento é um modelo treinado com uma nova capacidade. A etapa de inferência do modelo está descrita à direita. Considere um modelo treinado, como o DALL-E 2, que pode receber entradas de texto e gerar imagens. Uma texto é inserido no modelo treinado e uma imagem do modelo é fornecida.

Infraestrutura de Desktop Virtual (VDI, Virtual Desktop Infrastructure)

OCI Compute impulsionado por GPUs da NVIDIA oferece alto desempenho consistente para VDI.


Infraestrutura de Desktop Virtual Infraestrutura de Desktop Virtual

CFD e processamento de alto desempenho usando instâncias de GPU

A OCI permite a engenharia auxiliada por computador e a dinâmica de fluidos computacional para previsões rápidas das propriedades aerodinâmicas dos objetos.


CFD e processamento de alto desempenho usando instâncias de GPUCFD e processamento de alto desempenho usando instâncias de GPU

Instâncias de GPU – clientes

Explore mais histórias de clientes

Especificações e preços de GPU

Especificações das instâncias de GPU

As instâncias estão disponíveis como máquinas virtuais e bare metal, conferindo flexibilidade e alto desempenho.

Forma
GPUs
Arquitetura
Interconexão de GPU
Memória de GPU
Núcleos de CPU
Memória de CPU
Armazenamento
Rede
Preço por hora da GPU (US$)
Preço por hora do servidor (US$)
Treinamento em massa de IA, análises de dados e HPC
BM.GPU.A100-v2.8
8x Núcleos NVIDIA A100 80GB Tensor
Ampere
NVIDIA NVLINK
640 GB
128
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$32
BM.GPU4.8
8x Núcleos NVIDIA A100 40GB Tensor
Ampere
NVIDIA NVLINK
320 GB
64
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$24,4
Pouco treinamento de IA, inferência, streaming, jogos e infraestrutura de desktop virtual
VM.GPU.A10.1
(novo)
1x Núcleo NVIDIA A10 Tensor
Ampere
N/A
24 GB
15
240 GB
Armazenamento em blocos
24 Gb/s

US$2
VM.GPU.A10.2
(novo)
2x Núcleos NVIDIA A10 Tensor
Ampere
N/A
48 GB
30
480 GB
Armazenamento em blocos
48 Gb/s

US$4
BM.GPU.A10.4
4x Núcleos NVIDIA A10 Tensor
Ampere
N/A
96 GB
64
1,024 GB
2x 3,84TB NVMe
2x50 Gb/s

US$8
VM.GPU3.1
1 NVIDIA V100 Tensor Core
Volta
N/A
16 GB
6
90 GB
Armazenamento em blocos
4 Gb/s

US$2,95
VM.GPU3.2
2 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
32 GB
12
180 GB
Armazenamento em blocos
8 Gb/s

US$5,9
VM.GPU3.4
4 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
64 GB
24
360 GB
Armazenamento em blocos
25 Gb/s

US$11,8
BM.GPU3.8
8 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
128 GB
52
768 GB
Armazenamento em blocos
2x 25 Gb/s

US$23,6
VM.GPU2.1
1x NVIDIA P100
Pascal
N/A
16 GB
12
72 GB
Armazenamento em blocos
8 Gb/s

US$1,28
BM.GPU2.2
2x NVIDIA P100
Pascal
N/A
32 GB
28
192 GB
Armazenamento em blocos
2x 25 Gb/s

US$2,55
  • *Cada nó NVIDIA A100 tem oito NVIDIA ConnectX SmartNICs de 2 a 100 Gb/s conectados por meio de blocos de rede de cluster de alto desempenho da OCI, resultando em 1.600 Gb/s de largura de banda entre os nós.
18 de novembro de 2024

Já disponível para o público geral: o maior e mais rápido supercomputador de IA na nuvem

Sagar Zanwar, Gerente de Produtos Principal, OCI
Akshai Parthasarathy, Diretor de Marketing de Produtos, OCI

Temos o prazer de anunciar a disponibilidade geral do Oracle Cloud Infrastructure (OCI) Supercluster com GPUs NVIDIA H200 Tensor Core. O maior supercomputador de IA disponível na nuvem, o nosso mais recente Supercluster pode ser dimensionado a até 65.536 GPUs, o que o torna líder do setor.

Leia a publicação completa

Blogs em destaque

Recursos

Comece já com máquinas virtuais e bare metal


Modo Gratuito da Oracle Cloud

Crie, teste e implemente aplicações na Oracle Cloud gratuitamente. Inscreva-se uma vez e tenha acesso a duas ofertas gratuitas.

Experimente a Oracle Cloud gratuitamente

Treinamento na nuvem - Oracle Cloud Infrastructure

Explore os recursos de treinamento na nuvem com os vídeos da Oracle Cloud Infrastructure, laboratórios de aprendizagem individualizados e certificações.

Descubra o que você pode aprender

Explore a Oracle Cloud Infrastructure

A Oracle Cloud Infrastructure combina a elasticidade e a utilidade da nuvem pública com controle, segurança, desempenho e previsibilidade de ambientes de computação on-premises.

Leia o guia (PDF)