Instâncias de GPU

O Oracle Cloud Infrastructure (OCI) Compute oferece escalabilidade e desempenho líderes do setor para instâncias bare metal e de máquina virtual (VM) equipadas com as GPUs NVIDIA e AMD para gráficos convencionais, inferência de IA, treinamento em IA, gêmeos digitais e HPC.

Leia nossa atualização sobre inovação em IA
A Evidium dimensiona a pesquisa médica com a infraestrutura de IA da Oracle (3:04)

Leia os anúncios mais recentes sobre a OCI

Anúncio da disponibilidade geral do OCI Compute com GPUs AMD MI355X

Saiba mais sobre como anunciar a disponibilidade geral do OCI Compute com GPUs AMD MI355X
Leia o comunicado à imprensa sobre como anunciar a disponibilidade geral do OCI Compute com GPUs AMD MI355X

Por que usar a OCI para instâncias de GPU?

Escalabilidade

131.072

Número máximo de GPUs em um OCI Supercluster1

Desempenho

3.200

Até 3.200 GB/s de largura de banda da rede de clusters RDMA2

Valor

220%

As GPUs para outros CSPs podem ser até 220% mais caras3

Opções

VM/BM

Dimensionamento correto com VM e desempenho com instâncias bare metal

1. O OCI Supercluster pode ser dimensionado para até 131.072 GPUs NVIDIA Blackwell B200; 131.072 GPUs NVIDIA Blackwell B200 em NVIDIA Grace Blackwell GB200 Superchips; 65.536 GPUs NVIDIA H200 Tensor Core; 32.768 GPUs NVIDIA A100 Tensor Core; 16.384 GPUs NVIDIA H100 Tensor Core; e 16.384 GPUs AMD MI300X.

2. Para instâncias bare metal com GPUs NVIDIA B200, H200 e H100 e aceleradores AMD Instinct MI300X.

3. Com base nos preços sob demanda em 5 de junho de 2024.

Inscreva-se no novo programa de teste do OCI Compute com GPUs AMD Instinct MI300X.

Principais recursos das instâncias de GPU

A OCI é o único grande provedor de nuvem que oferece instâncias bare metal com GPUs NVIDIA e AMD para alto desempenho, sem sobrecarga de virtualização. Para fazer checkpoint durante o treinamento de IA, nossas instâncias fornecem o armazenamento mais local por nó (61,4 TB com GPUs H100). Para obter um equilíbrio de desempenho e preço, as VMs da OCI com GPUs NVIDIA são consistentemente mais econômicas que a AWS e o Azure.

GPUs NVIDIA e AMD de alto desempenho

GPUs NVIDIA Tensor Core

A OCI oferece o mais alto valor e desempenho para instâncias de computação bare metal e de máquina virtual alimentadas por GPUs NVIDIA Blackwell, GPUs H200 Tensor Core, GPUs H100 Tensor Core, GPUs L40S, GPUs A100 Tensor Core, GPUs A10 Tensor Core e GPUs NVIDIA de geração anterior.

Superchips da NVIDIA

A OCI oferece o Superchip NVIDIA GB200 Grace Blackwell em superclusters que se dimensionam para mais de 100.000 GPUs.

Aceleradores AMD Instinct

A OCI oferece GPUs AMD Instinct MI300X com 192 GB de memória por um preço competitivo de US$ 6 por GPU/hora.

Rede de clusters de alto desempenho

A rede de cluster de latência ultrabaixa da Oracle, baseada em acesso remoto direto à memória (RDMA), oferece latência em nível de microssegundos.

Instâncias de GPU da NVIDIA de alto desempenho
Treinamento GPT-3 175B: tempo de treinamento versus número de GPUs NVIDIA H100 imeplementadas no OCI Supercluster (0:55). Fonte: Desempenho da OCI para treinamento em MLPerf v4.1

Implemente em VMs, instâncias bare metal e clusters do Kubernetes

Instâncias de VM

Para VMs, escolha entre as arquiteturas GPUHopper, Ampere e mais antigas da NVIDIA com um a quatro núcleos, 16 a 64 GB de memória GPU por VM e até 48 GB/s de largura de banda de rede.

Instâncias Bare metal

Use o OCI Supercluster com instâncias bare metal que incluem GPUs AMD Instinct, GPUs NVIDIA Blackwell ou Superchips, GPUs NVIDIA Hopper ou Superchips e GPUs NVIDIA Ampere.

Orquestração do Kubernetes

Aproveite o Kubernetes gerenciado, a malha de serviços e o registro de contêiner para orquestrar o treinamento e a inferência de IA e machine learning (ML) com contêineres.

Escolha entre uma variedade de instâncias de processamento VM e bare metal
Comparação do desempenho das GEPUs NVIDIA V100 e A10

Preços competitivos para GPUs e infraestrutura

Preços de GPUs mais baixos do mundo

As instâncias de GPU concorrentes da AWS e do Azure podem ser significativamente mais caras.

Vantagem de preço para armazenamento em blocos

A AWS, o Azure e o Google Cloud podem ser até 6 vezes mais caros.

Melhores preços para Kubernetes

A AWS, o Azure e o Google Cloud podem ser até 2 vezes mais caros.

Preços de rede líderes do setor

A largura de banda pública transferida na OCI pode ser até dez vezes mais econômica que na AWS, Azure e Google Cloud.

Reduza os custos de rede e armazenamento
Comparação de preços de fornecedores de nuvem entre regiões

Acesse softwares prontamente disponíveis

Acesse softwares e imagens de disco

O Oracle Cloud Marketplace oferece softwares e imagens de disco para ciência de dados, análise avançada, inteligência artificial (IA) e modelos de machine learning (ML) para que os clientes possam obter insights rapidamente através de seus dados.

NVIDIA AI Enterprise

Tenha acesso à NVIDIA AI Enterprise, uma plataforma de software de ponta a ponta para ciência de dados e IA de produção, incluindo IA generativa, visão computacional e IA de fala.

NVIDIA DGX Cloud

A NVIDIA DGX Cloud na OCI é uma plataforma de treinamento como serviço de IA, que oferece uma experiência sem servidor para desenvolvedores otimizada para IA generativa.

Imagem da Máquina NVIDIA GPU Cloud

Use a Imagem da Máquina NVIDIA GPU Cloud para centenas de aplicações otimizadas para GPU para machine learning, aprendizado profundo e processamento de alto desempenho, abrangendo uma ampla gama de setores e cargas de trabalho.

NVIDIA RTX Virtual Workstation

Ofereça alto desempenho de estação de trabalho onde quer que os funcionários precisem executando o NVIDIA RTX Virtual Workstation na Oracle Cloud.

Controle seu ambiente e dados de computação de IA

Nuvem distribuída

Quando combinada com computação GPU, a nuvem distribuída da OCI ajuda as organizações a executar serviços de IA e nuvem onde e como eles são necessários.

Nuvem soberana

Dê suporte à residência de dados em uma região ou país, incluindo a UE, os EUA, o Reino Unido e a Austrália.

OCI Dedicated Region

Implemente uma região de nuvem completa em seu data center com a OCI Dedicated Region para manter o controle total de seus dados e aplicações.

Oracle Alloy

Torne-se um parceiro do Oracle Alloy e forneça seus serviços de nuvem para atender a necessidades específicas do mercado.

Microsserviços e contêineres

Registro de contêiner

Os desenvolvedores que criam aplicações usando contêineres utilizam um serviço de registro de alta disponibilidade para contêineres privados gerenciado pela Oracle a fim de armazenar e compartilhar imagens de contêiner. Empurre ou puxe imagens Docker de e para o registro usando o Docker API V2 e a CLI (Command Line Interface, Interface de linha de comando) Docker padrão. As imagens podem ser extraídas diretamente em uma implementação de Kubernetes.

Oracle Functions

As FaaS (Functions as a Service, Funções como serviço) permitem que desenvolvedores executem aplicações serverless que se integram à Oracle Cloud Infrastructure, aos Oracle Cloud Applications e a serviços de terceiros. Obtenha eficiência do desenvolvedor com a comunidade de código aberto Fn Project.

Casos de uso das instâncias de GPU

Infraestrutura de IA para treinamento e inferência de deep learning

Treine modelos de IA usando a OCI Data Science, instâncias bare metal, rede de cluster baseada em RDMA e GPUs NVIDIA.


Treinamento e inferência de IA Este diagrama descreve dois estágios de desenvolvimento do modelo de deep learning: treinamento do modelo e inferência do modelo. No treinamento do modelo à esquerda, a rede neural não treinada é inserida em um algoritmo de treinamento habilitado pelo OCI Data Science, computação bare metal, armazenamento local e rede de cluster. O resultado do algoritmo de treinamento é um modelo treinado com uma nova capacidade. A etapa de inferência do modelo está descrita à direita. Considere um modelo treinado, como o DALL-E 2, que pode receber entradas de texto e gerar imagens. Uma texto é inserido no modelo treinado e uma imagem do modelo é fornecida.

Infraestrutura de Desktop Virtual (VDI, Virtual Desktop Infrastructure)

OCI Compute impulsionado por GPUs da NVIDIA oferece alto desempenho consistente para VDI.


Infraestrutura de Desktop Virtual Infraestrutura de Desktop Virtual

CFD e processamento de alto desempenho usando instâncias de GPU

A OCI permite a engenharia auxiliada por computador e a dinâmica de fluidos computacional para previsões rápidas das propriedades aerodinâmicas dos objetos.


CFD e processamento de alto desempenho usando instâncias de GPUCFD e processamento de alto desempenho usando instâncias de GPU

Instâncias de GPU – clientes

Primeiros passos com instâncias de GPU

Experimente a Oracle AI e receba 30 dias de teste gratuito

A Oracle oferece um modo gratuito para a maioria dos serviços de IA, bem como uma conta de teste gratuita com US$ 300 em créditos para experimentar outros serviços de nuvem. Os serviços de IA são uma coleção de ofertas, incluindo IA generativa, com modelos de machine-learning pré-criados que facilitam para os desenvolvedores aplicar IA a aplicações e operações de negócios.

  • Quais serviços da Oracle AI and ML oferecem modo gratuito?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine Learning no Oracle Database
    • OCI Data Labeling

    Você só precisa pagar as taxas de computação e armazenamento do OCI Data Science.

Aproveite as GPUs hoje mesmo

Saiba como a Oracle ajuda os clientes a aproveitar as GPUs NVIDIA e AMD em diversos casos de uso de IA.

  • O que você pode fazer com instâncias de GPU?

    • Hospedar LLMs com GPUs NVIDIA e AMD
    • Executar treinamento multinó distribuído com GPUs NVIDIA
    • Automatizar tarefas com LLMs e geração aumentada de recuperação
    • Escalonar a inferência NVIDIA NIM

Veja o quanto pode você pode economizar com a OCI

Os preços da Oracle Cloud são simples, com preço baixo consistente em todo o mundo, oferecendo suporte a uma ampla gama de casos de uso. Para estimar a sua taxa, consulte a estimativa de custos e configure os serviços para atender às suas necessidades.

Experimente a diferença

  • 1/4 dos custos de largura de banda de saída
  • 3X o custo-benefício de computação
  • Mesmo preço em todas as regiões
  • Preços baixos sem compromissos de longo prazo

Ter acesso a especialistas em GPU e IA

Receba ajuda para criar sua próxima solução de GPU ou implementar sua carga de trabalho na infraestrutura de IA da OCI.

  • Eles podem responder a perguntas como:

    • Como começar a usar a Oracle Cloud?
    • Que tipos de cargas de trabalho de IA posso executar na OCI?
    • Quais tipos de serviços de IA a OCI oferece?