Infraestrutura de IA
Execute as cargas de trabalho de IA mais exigentes com mais rapidez, incluindo IA generativa, visão computacional e análise preditiva, em qualquer lugar da nossa nuvem distribuída. Use o Oracle Cloud Infrastructure (OCI) Supercluster para dimensionar até 65.536 GPUs hoje e 131.072 GPUs em breve.*
Por que executar na infraestrutura de IA da OCI?
Desempenho e valor
Aumente o treinamento de IA com instâncias bare metal de GPU exclusivas da OCI e rede de cluster RDMA ultrarrápida que reduzem a latência para apenas 2,5 microssegundos. Obtenha economia de até 220% em VMs de GPU do que com outros provedores de nuvem.
Armazenamento HPC
Aproveite os pontos de acesso NFS (HPMTs) de alto desempenho para até 500 Gb/s de taxa de transferência sustentada. Use 61,44 TB de capacidade de armazenamento local, a mais alta do setor para instâncias com GPUs NVIDIA H100.
IA soberana
A nuvem distribuída da Oracle permite que você implemente infraestrutura de IA em qualquer lugar para ajudar a atender aos requisitos de desempenho, segurança e soberania de IA.
A imagem mostra caixas que representam computação e armazenamento, conectadas por linhas para rede de clusters. Na extrema esquerda, há quatro caixas de computação e duas para armazenamento para o menor cluster com 16.000 GPUs NVIDIA H100. À direita, há 8 caixas de computação e 4 caixas de armazenamento para 32.000 GPUs NVIDIA A100 em um cluster. Em seguida, há 16 caixas de computação e 8 caixas de armazenamento para 64.000 GPUs NVIDIA H200. Finalmente, à extrema direita, existem 32 caixas de computação e 16 caixas de armazenamento para 128.000 GPUs NVIDIA Blackwell e Grace Blackwell. Isso mostra a escalabilidade do OCI Supercluster aumentando em 8 vezes, desde a menor configuração de 16.000 GPUs na extrema esquerda até a maior configuração de 128.000 GPUs na extrema direita.
OCI Supercluster com GPUs NVIDIA Blackwell e Hopper
Até 131.072 GPUs, 8X mais escalabilidade
As inovações de malha de rede permitirão que o OCI Supercluster seja dimensionado para até 131.072 GPUs NVIDIA B200 e mais de 100.000 Blackwell GPUs no NVIDIA Grace Blackwell Superchips. O OCI Supercluster é dimensionado para até 65.536 GPUs NVIDIA H200 hoje.
Infraestrutura da OCI AI para todas as suas necessidades
Não importa se você está procurando realizar inferência, ajustar ou treinar modelos de grande escala para IA generativa; a OCI oferece opções de cluster de GPU bare metal e máquina virtual líderes no setor, alimentadas por uma rede de largura de banda ultra-alta e armazenamento de alto desempenho para atender às suas necessidades de IA.
Os inovadores de IA utilizam a OCI para hospedar, treinar e inferir modelos de IA de última geração.
Explore o OCI Supercluster para treinamento de IA em larga escala
Já disponível: clusters massivos e escaláveis com GPUs NVIDIA H100, A100 e L40S
Computação sobrecarregada
• Instâncias bare metal sem sobrecarga de hipervisor
• Aceleradas pelas GPUs NVIDIA H200, H100, L40S e A100
• Opção de usar GPUs AMD MI300X
• Unidade de processamento de dados (DPU) para aceleração de hardware integrada
Capacidade massiva e armazenamento de alto rendimento
• Armazenamento local: até 61,44 TB de capacidade de SSD NVMe
• Armazenamento de arquivos: destino de montagem de alto desempenho (HPMT) com até 80 Gb/s de rendimento (agora com disponibilidade geral) e serviço Lustre totalmente gerenciado (em breve)
• Armazenamento em bloco: volumes balanceados, de alto desempenho e de desempenho ultra-alto com um SLA de desempenho
• Armazenamento de objetos: níveis de classe de armazenamento distintos, replicação de bucket e limites de alta capacidade
Rede ultrarrápida
• RDMA projetado sob medida sobre protocolo Ethernet Convergente (RoCE v2)
• 2,5 a 9,1 microssegundos de latência para rede de cluster
• Até 3.200 Gb/s de largura de banda de rede de cluster
• Até 200 Gb/s de largura de banda de rede front-end
Computação para o Supercluster
As instâncias bare metal da OCI com GPUs AMD MI300X, NVIDIA L40S, NVIDIA H100 e NVIDIA A100 permitem executar grandes modelos de IA para casos de uso que incluem deep learning, IA conversacional e IA generativa. Com o OCI Supercluster, você pode dimensionar até 32.768 GPUs A100, 16.384 GPUs H100, 16.384 GPUs MI300X e 3.840 GPUs L40S por cluster.
Ampliar+
Rede para o Supercluster
A rede de cluster RDMA de alta velocidade alimentada por placas de interface de rede NVIDIA ConnectX com RDMA sobre Ethernet convergente versão 2 permite que você crie grandes clusters de instâncias de GPU com a mesma rede de latência ultrabaixa e escalabilidade de aplicações que você espera on-premises.
Você não paga mais pelo recurso RDMA, armazenamento em blocos ou largura de banda da rede, e os primeiros 10 TB de saída são gratuitos.
Ampliar+
Armazenamento para o OCI Supercluster
Pelo OCI Supercluster, os clientes podem acessar armazenamento local, em blocos, de objetos e de arquivos para computação em exaescala. Entre os principais provedores de nuvem, a OCI oferece a mais alta capacidade de armazenamento NVMe local de alto desempenho para checkpoint mais frequente durante as execuções de treinamento, resultando em recuperação mais rápida de falhas.
Os sistemas de arquivos HPC, como BeeGFS, GlusterFS, Lustre e WEKA, podem ser usados para treinamento de IA em escala sem comprometer o desempenho.
Como o OCI Supercluster funciona
Assista ao arquiteto técnico Pradeep Vincent explicar como o OCI Supercluster potencializa o treinamento e a inferência de modelos de machine learning, podendo ser dimensionados para dezenas de milhares de GPUs NVIDIA.
Casos de uso típicos de infraestrutura de IA
- Treinamento e inferência de aprendizado profundo
- Detecção de fraude aumentada por IA
- Análise de imagem médica baseada em IA
- Uso de IA para acelerar a descoberta de medicamentos
Treine modelos de IA em instâncias bare metal da OCI com GPUs, rede de cluster RDMA e o OCI Data Science.
Proteger os bilhões de transações financeiras que acontecem todos os dias requer ferramentas aprimoradas de IA que possam analisar grandes quantidades de dados históricos dos clientes. Os modelos de IA executados no OCI Compute com GPUs NVIDIA, juntamente com ferramentas de gerenciamento de modelos, como o OCI Data Science e outros modelos de código aberto, ajudam as instituições financeiras a mitigar fraudes.
A IA é frequentemente usada para analisar vários tipos de imagens médicas (como raios-X e ressonâncias magnéticas) em um hospital. Modelos treinados podem ajudar a priorizar casos que precisam de revisão imediata por um radiologista e relatar resultados conclusivos sobre outros.
A descoberta de medicamentos é um processo demorado e caro que pode levar muitos anos e custar milhões de dólares. Utilizando a infraestrutura e a análise de IA, os pesquisadores podem acelerar a descoberta de medicamentos. Além disso, o OCI Compute com GPUs NVIDIA, juntamente com ferramentas de gerenciamento de fluxo de trabalho de IA, como BioNeMo, permite que os clientes selecionem e pré-processem seus dados.
Casos de sucesso de clientes da Oracle Cloud Infrastructure
Conheça a infraestrutura de IA da OCI
Experimente a Oracle AI e receba 30 dias de teste gratuito
A Oracle oferece um modo gratuito para a maioria dos serviços de IA, bem como uma conta de teste gratuita com US$ 300 em créditos para experimentar outros serviços de nuvem. Os serviços de IA são uma coleção de ofertas, incluindo IA generativa, com modelos de machine-learning pré-criados que facilitam para os desenvolvedores aplicar IA a aplicações e operações de negócios.
-
Quais serviços da Oracle AI and ML oferecem modo gratuito?
- OCI Speech
- OCI Language
- OCI Vision
- OCI Document Understanding
- Machine Learning no Oracle Database
- OCI Data Labeling
Você só precisa pagar as taxas de computação e armazenamento do OCI Data Science.
Recursos adicionais
Saiba mais sobre rede de cluster RDMA, instâncias de GPU, servidores bare metal e muito mais.
Veja o quanto pode você pode economizar com a OCI
Os preços da Oracle Cloud são simples, com preço baixo consistente em todo o mundo, oferecendo suporte a uma ampla gama de casos de uso. Para estimar a sua taxa, consulte a estimativa de custos e configure os serviços para atender às suas necessidades.
Acesse especialistas em assuntos de IA
Receba ajuda para criar sua próxima solução de IA ou implementar sua carga de trabalho na infraestrutura de IA da OCI.
-
Eles podem responder a perguntas como:
- Como começar a usar a Oracle Cloud?
- Que tipos de cargas de trabalho de IA posso executar na OCI?
- Quais tipos de serviços de IA a OCI oferece?