Instâncias de GPU

O Oracle Cloud Infrastructure (OCI) Compute fornece instâncias de máquina virtual e bare metal alimentadas por GPUs NVIDIA para uma variedade de casos de uso, incluindo gráficos e vídeos convencionais, bem como os mais exigentes treinamento de IA e cargas de trabalho de HPC.

A SoundHound usa voz por IA na OCI, aumentando o desempenho
Vídeo: A SoundHound usa voz por IA na OCI, aumentando o desempenho entre 50 e 60% (3:28)

OCI no NVIDIA GTC, a conferência sobre IA e metaverso

Principais recursos das instâncias de GPU

A comunicação de acesso remoto direto à memória (RDMA) entre instâncias oferece suporte a grandes clusters de GPU com 3.200 Gb/s de largura de banda e latência ultrabaixa.

Instâncias de GPU da NVIDIA de alto desempenho

GPUs NVIDIA Tensor Core

A OCI oferece o mais alto valor e desempenho para instâncias de computação bare metal e de máquinas virtuais alimentadas por estas GPUs NVIDIA: H100, L40S (em breve), A100, A10, V100e P100.

Desempenho bare metal

As instâncias de computação bare metal permitem que os clientes executem cargas de trabalho especializadas, sensíveis à latência e de alto desempenho diretamente no hardware do servidor, exatamente como fariam no local.

Rede de clusters de alto desempenho

A rede de cluster de latência ultrabaixa da Oracle, baseada em RDMA, fornece latência em nível de microssegundos. Sem comprometer o desempenho, os clientes podem hospedar clusters com 512 GPUs ou menos e OCI Superclusters com mais de 512 GPUs.

Instâncias de GPU da NVIDIA de alto desempenho
Largura de banda contra os nós do cluster; 1 nó = 8 GPUs NVIDIA A100.

Escolha entre uma variedade de instâncias de processamento VM e bare metal

Máquinas virtuais e bare metal

Combine sua carga de trabalho com o melhor tipo de instância para encontrar a opção ideal.

Instâncias de VM

Para VMs, escolha GPUs NVIDIA Ampere, Volta e Pascal com um a quatro núcleos, 16 a 64 GB de memória de GPU e até 480 GB de armazenamento flash conectado localmente.

Instâncias Bare metal

Agrupe instâncias bare metal para treinamento de HPC e IA usando GPUs NVIDIA H100 ou A100 Tensor Core com 640 GB de memória de GPU por nó.

Escolha entre uma variedade de instâncias de processamento VM e bare metal
Comparação do desempenho das GEPUs NVIDIA V100 e A10

Infraestrutura da nuvem segura

Virtualização de rede isolada

Evite ataques a locações de clientes com a virtualização de rede isolada. Elemento fundamental da arquitetura de segurança em primeiro lugar da Oracle Cloud Infrastructure, o design interrompe o caminho do malware com um SmartNIC personalizado para isolar e virtualizar a rede.

Oracle Cloud Infrastructure Identity and Access Management

Usando políticas fáceis de definir organizadas por grupos lógicos de usuários e recursos, controle não apenas quem tem acesso aos recursos da Oracle Cloud Infrastructure, mas também quais recursos e o tipo de acesso. Os clientes gerenciam identidades e concedem acesso ao aproveitar as hierarquias organizacionais existentes e serviços de diretório federado, incluindo Microsoft, Okta e outros provedores de diretório SAML.

Raiz de confiança do hardware

Reduza o risco de ataques baseados em firmware contra locatários de clientes da Oracle Cloud Infrastructure com tecnologia de raiz de confiança baseada em hardware, desenvolvida para limpar e reinstalar o firmware sempre que um novo servidor for provisionado ou uma nova locação de cliente for estabelecida.

Oracle Web Application Firewall

Proteja aplicações contra tráfego mal-intencionado e indesejado na internet com um serviço WAF (Web Application Firewall, Firewall de aplicações web) global, compatível com PCI e baseado em nuvem. Ao combinar inteligência contra ameaças e aplicação consistente de regras, este serviço fortalece as defesas e protege os servidores de aplicações voltadas para a Internet.

Oracle Cloud Infrastructure Vault

Gerencie e mantenha centralmente o controle das chaves de criptografia e das credenciais secretas usadas para proteger os dados empresariais e os recursos de acesso. A segurança para ambos é armazenada nos FIPS (Federal Information Processing Standards, Padrões de processamento de informações federais) 140-2, certificação nível 3, HSM (Hardware Security Module, Módulo de segurança de hardware).

Os usuários podem controlar ainda mais as permissões para chaves e cofres individuais com o OCI Identity and Access Management, além de monitorar as mudanças no ciclo de vida das chaves com o Oracle Audit para atender a requisitos de conformidade avançados.

Escolha do sistema operacional

Escolha entre sistemas operacionais conhecidos

A Oracle é compatível com uma extensa lista de sistemas operacionais do Microsoft Windows Server e do Linux, incluindo Oracle Linux, CentOS, Ubuntu e muitos outros. O Oracle Autonomous Linux é um ambiente operacional independente e gratuito que reduz a complexidade e o erro humano para oferecer maior economia de custos, segurança e disponibilidade.

Automatize o gerenciamento do sistema operacional

O serviço OCI OS Management permite que os clientes definam políticas para patches e atualizações automatizadas para seu ambiente de sistema operacional.

Veja a documentação

Traga a sua própria imagem (BYOI)

Os clientes podem executar seus próprios sistemas operacionais e hipervisores em instâncias de processamento da Oracle e usar a mesma imagem nos tamanhos de configuração.

Acesse software prontamente disponíveis

Acesse softwares e imagens de disco

O Oracle Cloud Marketplace fornece softwares e imagens de disco voltados à ciência de dados, análise avançada, inteligência artificial (IA) e modelos de machine learning (ML) para que os clientes possam obter insights rapidamente através de seus dados.

NVIDIA GPU Cloud

Acesse centenas de aplicações otimizadas por GPU para machine learning, aprendizado profundo e processamento de alto desempenho, abrangendo uma ampla gama de setores e cargas de trabalho. Saiba mais.

NVIDIA RTX Virtual Workstation

Os clientes oferecem alto desempenho de estação de trabalho onde os funcionários precisam executando a NVIDIA RTX Virtual Workstation na Oracle Cloud.

Microsserviços e contêineres

Registro de contêiner

Os desenvolvedores que criam aplicações usando contêineres utilizam um serviço de registro de alta disponibilidade para contêineres privados gerenciado pela Oracle a fim de armazenar e compartilhar imagens de contêiner. Empurre ou puxe imagens Docker de e para o registro usando o Docker API V2 e a CLI (Command Line Interface, Interface de linha de comando) Docker padrão. As imagens podem ser extraídas diretamente em uma implementação de Kubernetes.

Oracle Functions

As FaaS (Functions as a Service, Funções como serviço) permitem que desenvolvedores executem aplicações serverless que se integram à Oracle Cloud Infrastructure, aos Oracle Cloud Applications e a serviços de terceiros. Obtenha eficiência do desenvolvedor com a comunidade de código aberto Fn Project.

Fale com um especialista da Oracle sobre como acelerar as suas cargas de trabalho em GPU.

Casos de uso das instâncias de GPU

Infraestrutura de IA para treinamento e inferência de deep learning

Treine modelos de IA usando a OCI Data Science, instâncias bare metal, rede de cluster baseada em RDMA e GPUs NVIDIA.


Treinamento e inferência de IA Este diagrama descreve dois estágios de desenvolvimento do modelo de deep learning: treinamento do modelo e inferência do modelo. No treinamento do modelo à esquerda, a rede neural não treinada é inserida em um algoritmo de treinamento habilitado pelo OCI Data Science, computação bare metal, armazenamento local e rede de cluster. O resultado do algoritmo de treinamento é um modelo treinado com uma nova capacidade. A etapa de inferência do modelo está descrita à direita. Considere um modelo treinado, como o DALL-E 2, que pode receber entradas de texto e gerar imagens. Uma texto é inserido no modelo treinado e uma imagem do modelo é fornecida.

Infraestrutura de Desktop Virtual (VDI, Virtual Desktop Infrastructure)

OCI Compute impulsionado por GPUs da NVIDIA oferece alto desempenho consistente para VDI.


Infraestrutura de Desktop Virtual Infraestrutura de Desktop Virtual

CFD e processamento de alto desempenho usando instâncias de GPU

A OCI permite a engenharia auxiliada por computador e a dinâmica de fluidos computacional para previsões rápidas das propriedades aerodinâmicas dos objetos.


CFD e processamento de alto desempenho usando instâncias de GPUCFD e processamento de alto desempenho usando instâncias de GPU

Descubra como a OCI e NVIDIA impulsionam a próxima geração de modelos de IA

A Adept cria um auxiliar de IA poderoso para todos com a Oracle e NVIDIA

“Com a escalabilidade e o poder de computação da tecnologia OCI e NVIDIA, estamos treinando uma rede neural para usar todos os aplicativos de software, sites e APIs existentes, aproveitando os recursos que os fabricantes de software já criaram.”

David Luan, CEO
Adept

A National Grid analisa o clima 40% melhor na Oracle Cloud

“A Oracle Cloud Infrastructure permite processar dezenas de milhares de modelos para que possamos treinar nossos algoritmos de forma rápida. É uma das melhores plataformas do mundo para o nosso tipo de serviço.”

James Kelloway, Gerente de Inteligência Energética
National Grid ESO

A SoundHound escolheu a OCI para apoiar o crescimento vertiginoso da empresa

"Para nós, esse relacionamento com a OCI será de longo prazo. Estamos animados para aproveitar as GPUs em breve, a usá-las para treinar a nossa próxima geração de IA para voz. Pensamos que a OCI ainda tem muito a nos oferecer, quando falamos de crescimento futuro.

James Hom, Cofundador e Vice Presidente de Produtos
SoundHound

A Softdrive oferece estações de trabalho de última geração com OCI Compute e NVIDIA A10

"A Softdrive é o futuro dos computadores de negócios. No mercado de PC na nuvem, desempenho importa. As GPUs NVIDIA em servidores bare metal da OCI melhoraram drasticamente a experiência para nossos clientes."

Leonard Ivey, Cofundador
Softdrive

A Twist Bioscience aproveita a OCI e IA para progredir em suas iniciativas de proteínas

“Com as GPUs NVIDIA rodando em instâncias bare metal da OCI, a Twist experimenta melhorias significativas de desempenho em seus modelos ParaFold e ESMFold AI.”

O WEKA na OCI oferece desempenho de 2 terabytes por segundo

“A Oracle Cloud Infrastructure é uma nuvem hiperescaladora de primeira linha que fornece serviços de computação e aplicações XaaS para clientes Oracle e oferece muito mais do que você poderia esperar, incluindo cargas de trabalho de IA/ML e GPU.”

Joel Kaufman
Gerente Técnico Sênior de Marketing, WEKA

A Tango Eye atende mais clientes a um custo mais baixo com a Oracle

“quadruplicamos nossa pegada de dados e reduzimos os custos em 40%. Usamos 33% menos capacidade de computação de GPU na OCI.”

Suren Gounder, CEO
Tango Eye

A Altair testa e executa simulações complexas durante a noite na OCI

“A integração com a plataforma de nuvem da Oracle nos fornece recursos de computação GPU de última geração, segurança de classe mundial e ambientes VMware altamente flexíveis. Em última instância, isso aumentou a produtividade, otimizou a utilização de recursos e acelerou o tempo de comercialização".

Sam Mahalingam, Diretor de Tecnologia
Altair

Especificações e preços de GPU

Especificações das instâncias de GPU

As instâncias estão disponíveis como máquinas virtuais e bare metal, conferindo flexibilidade e alto desempenho.

Forma
GPUs
Arquitetura
Interconexão de GPU
Memória de GPU
Núcleos de CPU
Memória de CPU
Armazenamento
Rede
Preço por hora da GPU (US$)
Preço por hora do servidor (US$)
Treinamento em massa de IA, análises de dados e HPC
BM.GPU.A100-v2.8
8x Núcleos NVIDIA A100 80GB Tensor
Ampere
NVIDIA NVLINK
640 GB
128
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$32
BM.GPU4.8
8x Núcleos NVIDIA A100 40GB Tensor
Ampere
NVIDIA NVLINK
320 GB
64
2.048 GB
4x 6,8TB NVMe
8x2x100 Gb/s RDMA*

US$24,4
Pouco treinamento de IA, inferência, streaming, jogos e infraestrutura de desktop virtual
VM.GPU.A10.1
(novo)
1x Núcleo NVIDIA A10 Tensor
Ampere
N/A
24 GB
15
240 GB
Armazenamento em blocos
24 Gb/s

US$2
VM.GPU.A10.2
(novo)
2x Núcleos NVIDIA A10 Tensor
Ampere
N/A
48 GB
30
480 GB
Armazenamento em blocos
48 Gb/s

US$4
BM.GPU.A10.4
4x Núcleos NVIDIA A10 Tensor
Ampere
N/A
96 GB
64
1,024 GB
2x 3,84TB NVMe
2x50 Gb/s

US$8
VM.GPU3.1
1 NVIDIA V100 Tensor Core
Volta
N/A
16 GB
6
90 GB
Armazenamento em blocos
4 Gb/s

US$2,95
VM.GPU3.2
2 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
32 GB
12
180 GB
Armazenamento em blocos
8 Gb/s

US$5,9
VM.GPU3.4
4 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
64 GB
24
360 GB
Armazenamento em blocos
25 Gb/s

US$11,8
BM.GPU3.8
8 NVIDIA V100 Tensor Core
Volta
NVIDIA NVLINK
128 GB
52
768 GB
Armazenamento em blocos
2x 25 Gb/s

US$23,6
VM.GPU2.1
1x NVIDIA P100
Pascal
N/A
16 GB
12
72 GB
Armazenamento em blocos
8 Gb/s

US$1,28
BM.GPU2.2
2x NVIDIA P100
Pascal
N/A
32 GB
28
192 GB
Armazenamento em blocos
2x 25 Gb/s

US$2,55
13 de novembro de 2023

Anunciando planos para oferecer o NVIDIA Grace Hopper Superchip na OCI

Sagar Rawal, Vice-presidente, Oracle Cloud Infrastructure

Hoje, no SC23, estamos anunciando nossos próximos planos de oferecer instâncias do Oracle Cloud Infrastructure (OCI) Compute com a tecnologia do GH200 Grace Hopper Superchip da NVIDIA. O GH200 consiste em uma CPU Arm (Grace) vinculada a uma GPU H100 Tensor Core (Hopper) da NVIDIA, com memória de alta largura de banda de 576 GB.

Leia a publicação completa

Recursos

Comece já com máquinas virtuais e bare metal


Modo Gratuito da Oracle Cloud

Crie, teste e implemente aplicações na Oracle Cloud gratuitamente. Inscreva-se uma vez e tenha acesso a duas ofertas gratuitas.


Treinamento na nuvem - Oracle Cloud Infrastructure

Explore os recursos de treinamento na nuvem com os vídeos da Oracle Cloud Infrastructure, laboratórios de aprendizagem individualizados e certificações.


Explore a Oracle Cloud Infrastructure

A Oracle Cloud Infrastructure combina a elasticidade e a utilidade da nuvem pública com controle, segurança, desempenho e previsibilidade de ambientes de computação on-premises.