Instâncias de GPU

O Oracle Cloud Infrastructure (OCI) Compute oferece desempenho e valor líderes do setor para instâncias bare metal e de máquina virtual (VM) com tecnologia das GPUs NVIDIA para gráficos mainstream, inferência de IA, treinamento em IA e cargas de trabalho de HPC.

A NIBIO melhora a silvicultura com dados e IA na OCI (2:38)

OCI no NVIDIA GTC, a conferência sobre IA e metaverso

Principais recursos das instâncias de GPU

A OCI é o único grande provedor de nuvem que oferece instâncias bare metal com GPUs NVIDIA para alto desempenho, sem sobrecarga de virtualização. Para checkpoint durante o treinamento em IA, nossas instâncias oferecem o armazenamento mais local por nó (61,44 TB). Para um equilíbrio entre desempenho e preço, as VMs da OCI com GPUs NVIDIA podem ser até 273% mais baratas do que a AWS e o Azure e 190% mais baratas do que o Google Cloud.

Instâncias de GPU da NVIDIA de alto desempenho

GPUs NVIDIA Tensor Core

A OCI oferece o mais alto valor e desempenho para instâncias de computação de máquina virtual e bare metal com tecnologia das GPUs NVIDIA H100, A100, A10, V100 e P100. A OCI planeja oferecer instâncias com as GPUs NVIDIA L40S, H200 e B200.

Superchips da NVIDIA

A OCI planeja oferecer os superchips NVIDIA GH200 Grace Hopper e GB200 Grace Blackwell para inferência de modelo de linguagem grande (LLM).

Rede de clusters de alto desempenho

A rede de cluster de latência ultrabaixa da Oracle, baseada em acesso remoto direto à memória (RDMA), oferece latência em nível de microssegundos.

Instâncias de GPU da NVIDIA de alto desempenho
Largura de banda contra os nós do cluster; 1 nó = 8 GPUs NVIDIA A100.

Implemente em VMs, instâncias bare metal e clusters do Kubernetes

Instâncias de VM

Para VMs, escolha entre as arquiteturas de GPU NVIDIA Ampere, Volta e Pascal com um a quatro núcleos, 16 a 64 GB de memória de GPU por VM e até 48 GB/s de largura de banda de rede.

Instâncias Bare metal

Agrupe instâncias bare metal para treinamento de HPC e IA usando as GPUs NVIDIA H100 ou A100 Tensor Core com 640 GB de memória de GPU por nó.

Orquestração do Kubernetes

Aproveite o Kubernetes gerenciado, a malha de serviços e o registro de contêiner para orquestrar o treinamento e a inferência de IA e machine learning (ML) com contêineres.

Escolha entre uma variedade de instâncias de processamento VM e bare metal
Comparação do desempenho das GEPUs NVIDIA V100 e A10

Acesse softwares prontamente disponíveis

Acesse softwares e imagens de disco

O Oracle Cloud Marketplace oferece softwares e imagens de disco para ciência de dados, análise avançada, inteligência artificial (IA) e modelos de machine learning (ML) para que os clientes possam obter insights rapidamente através de seus dados.

NVIDIA AI Enterprise

Tenha acesso à NVIDIA AI Enterprise, uma plataforma de software de ponta a ponta para ciência de dados e IA de produção, incluindo IA generativa, visão computacional e IA de fala.

NVIDIA DGX Cloud

A NVIDIA DGX Cloud na OCI é uma plataforma de treinamento como serviço de IA, que oferece uma experiência sem servidor para desenvolvedores otimizada para IA generativa.

Imagem da Máquina NVIDIA GPU Cloud

Use a Imagem da Máquina NVIDIA GPU Cloud para centenas de aplicações otimizadas para GPU para machine learning, aprendizado profundo e processamento de alto desempenho, abrangendo uma ampla gama de setores e cargas de trabalho.

NVIDIA RTX Virtual Workstation

Ofereça alto desempenho de estação de trabalho onde quer que os funcionários precisem executando o NVIDIA RTX Virtual Workstation na Oracle Cloud.

Controle seu ambiente e dados de computação de IA

Nuvem distribuída

Quando combinada com computação GPU, a nuvem distribuída da OCI ajuda as organizações a executar serviços de IA e nuvem onde e como eles são necessários.

Nuvem soberana

Dê suporte à residência de dados em uma região ou país, incluindo a UE, os EUA, o Reino Unido e a Austrália.

OCI Dedicated Region

Implemente uma região de nuvem completa em seu data center com a OCI Dedicated Region para manter o controle total de seus dados e aplicações.

Oracle Alloy

Torne-se um parceiro do Oracle Alloy e forneça seus serviços de nuvem para atender a necessidades específicas do mercado.

Microsserviços e contêineres

Registro de contêiner

Os desenvolvedores que criam aplicações usando contêineres utilizam um serviço de registro de alta disponibilidade para contêineres privados gerenciado pela Oracle a fim de armazenar e compartilhar imagens de contêiner. Empurre ou puxe imagens Docker de e para o registro usando o Docker API V2 e a CLI (Command Line Interface, Interface de linha de comando) Docker padrão. As imagens podem ser extraídas diretamente em uma implementação de Kubernetes.

Oracle Functions

As FaaS (Functions as a Service, Funções como serviço) permitem que desenvolvedores executem aplicações serverless que se integram à Oracle Cloud Infrastructure, aos Oracle Cloud Applications e a serviços de terceiros. Obtenha eficiência do desenvolvedor com a comunidade de código aberto Fn Project.

Fale com um especialista da Oracle sobre como acelerar as suas cargas de trabalho em GPU.

Casos de uso das instâncias de GPU

Infraestrutura de IA para treinamento e inferência de deep learning

Treine modelos de IA usando a OCI Data Science, instâncias bare metal, rede de cluster baseada em RDMA e GPUs NVIDIA.


Treinamento e inferência de IA Este diagrama descreve dois estágios de desenvolvimento do modelo de deep learning: treinamento do modelo e inferência do modelo. No treinamento do modelo à esquerda, a rede neural não treinada é inserida em um algoritmo de treinamento habilitado pelo OCI Data Science, computação bare metal, armazenamento local e rede de cluster. O resultado do algoritmo de treinamento é um modelo treinado com uma nova capacidade. A etapa de inferência do modelo está descrita à direita. Considere um modelo treinado, como o DALL-E 2, que pode receber entradas de texto e gerar imagens. Uma texto é inserido no modelo treinado e uma imagem do modelo é fornecida.

Infraestrutura de Desktop Virtual (VDI, Virtual Desktop Infrastructure)

OCI Compute impulsionado por GPUs da NVIDIA oferece alto desempenho consistente para VDI.


Infraestrutura de Desktop Virtual Infraestrutura de Desktop Virtual

CFD e processamento de alto desempenho usando instâncias de GPU

A OCI permite a engenharia auxiliada por computador e a dinâmica de fluidos computacional para previsões rápidas das propriedades aerodinâmicas dos objetos.


CFD e processamento de alto desempenho usando instâncias de GPUCFD e processamento de alto desempenho usando instâncias de GPU

Especificações e preços de GPU

Especificações das instâncias de GPU

As instâncias estão disponíveis como máquinas virtuais e bare metal, conferindo flexibilidade e alto desempenho.

Forma
GPUs
Arquitetura
Interconexão de GPU
Memória de GPU
Núcleos de CPU
Memória de CPU
Armazenamento
Rede
Preço por hora da GPU (US$)
Preço por hora do servidor (US$)
Treinamento em massa de IA, análises de dados e HPC
BM.GPU.A100-v2.8
8x Núcleos NVIDIA A100 80GB Tensor
Ampere
NVIDIA NVLINK
640 GB
128
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$32
BM.GPU4.8
8x Núcleos NVIDIA A100 40GB Tensor
Ampere
NVIDIA NVLINK
320 GB
64
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$24,4
Pouco treinamento de IA, inferência, streaming, jogos e infraestrutura de desktop virtual
VM.GPU.A10.1
(novo)
1x Núcleo NVIDIA A10 Tensor
Ampere
N/A
24 GB
15
240 GB
Armazenamento em blocos
24 Gb/s

US$2
VM.GPU.A10.2
(novo)
2x Núcleos NVIDIA A10 Tensor
Ampere
N/A
48 GB
30
480 GB
Armazenamento em blocos
48 Gb/s

US$4
BM.GPU.A10.4
4x Núcleos NVIDIA A10 Tensor
Ampere
N/A
96 GB
64
1,024 GB
2x 3,84TB NVMe
2x50 Gb/s

US$8
VM.GPU3.1
1 NVIDIA V100 Tensor Core
Volta
N/A
16 GB
6
90 GB
Armazenamento em blocos
4 Gb/s

US$2,95
VM.GPU3.2
2 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
32 GB
12
180 GB
Armazenamento em blocos
8 Gb/s

US$5,9
VM.GPU3.4
4 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
64 GB
24
360 GB
Armazenamento em blocos
25 Gb/s

US$11,8
BM.GPU3.8
8 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
128 GB
52
768 GB
Armazenamento em blocos
2x 25 Gb/s

US$23,6
VM.GPU2.1
1x NVIDIA P100
Pascal
N/A
16 GB
12
72 GB
Armazenamento em blocos
8 Gb/s

US$1,28
BM.GPU2.2
2x NVIDIA P100
Pascal
N/A
32 GB
28
192 GB
Armazenamento em blocos
2x 25 Gb/s

US$2,55
  • *Cada nó NVIDIA A100 tem oito NVIDIA ConnectX SmartNICs de 2 a 100 Gb/s conectados por meio de blocos de rede de cluster de alto desempenho da OCI, resultando em 1.600 Gb/s de largura de banda entre os nós.
1 de março de 2024

Impulsionando a Revolução da IA: Oracle na NVIDIA GTC

Richard Wang, Arquiteto de Soluções da NVIDIA
Sanjay Basu, Diretor Sênior, Serviços de GPU de IA/ML da Oracle

Líderes do setor, desenvolvedores, pesquisadores e estrategistas de negócios se reunirão on-line e no San Jose Convention Center para NVIDIA GTC, a conferência para a era da IA, que acontece de 18 a 21 de março de 2024. Com mais de 900 sessões, mais de 200 exposições, mais de 20 workshops técnicos e diversos eventos de networking.

Leia a publicação completa

Comece já com máquinas virtuais e bare metal


Modo Gratuito da Oracle Cloud

Crie, teste e implemente aplicações na Oracle Cloud gratuitamente. Inscreva-se uma vez e tenha acesso a duas ofertas gratuitas.


Treinamento na nuvem - Oracle Cloud Infrastructure

Explore os recursos de treinamento na nuvem com os vídeos da Oracle Cloud Infrastructure, laboratórios de aprendizagem individualizados e certificações.


Explore a Oracle Cloud Infrastructure

A Oracle Cloud Infrastructure combina a elasticidade e a utilidade da nuvem pública com controle, segurança, desempenho e previsibilidade de ambientes de computação on-premises.