Kubernetes Engine (OKE)

Acelere a criação de modelos de IA

O processo de criação de modelos de IA começa com a preparação e a experimentação de dados, beneficiando-se de acesso seguro e compartilhado a GPUs e administração centralizada. O OKE permite que as equipes:

– Maximizem a utilização da GPU por meio de clusters multitenant seguros.

– Colaborem de forma eficiente em ambientes gerenciados centralmente

– Integrem-se ao Kubeflow para desenvolvimento e implementação de modelos simplificados

Saiba mais sobre como executar aplicações em nós baseados em GPU com o OKE.

OKE: Projetado especificamente para IA e ML

Desenvolvido na infraestrutura de alto desempenho da OCI, o OKE oferece:

– Acesso às mais recentes GPUs NVIDIA (H100, A100, A10 e muito mais)

– Rede RDMA ultrarrápida para máxima taxa de transferência e baixa latência

– Controle total com nós de trabalho Kubernetes gerenciados ou autogerenciados

Saiba como criar um cluster do Kubernetes e instalar o Kubeflow.

Orquestre cargas de trabalho de treinamento com eficiência

Os cientistas de dados dependem de um agendamento otimizado para maximizar o uso de recursos em tarefas de treinamento. O OKE oferece suporte a agendadores avançados, como Volcano e Kueue, para executar cargas de trabalho paralelas e distribuídas com eficiência.

O treinamento de IA em larga escala exige redes de cluster rápidas e de baixa latência. A infraestrutura habilitada para RDMA da OCI permite que o OKE mova dados diretamente para e da memória da GPU, minimizando a latência e maximizando a taxa de transferência.

OKE: Pronto para treinamento de IA de alto desempenho

O OKE, desenvolvido sobre a infraestrutura confiável da OCI, oferece:

– Acesso às GPUs NVIDIA (H100, A100, A10 e muito mais)

– Conexões de rede ultrarrápidas com suporte a RDMA

– A flexibilidade para executar tarefas em nós Kubernetes autogerenciados

Saiba mais sobre como executar aplicações em nós baseados em GPU com o OKE.

Pronto para executar cargas de trabalho de GPU no OKE com nós bare metal NVIDIA A100? Este tutorial pode mostrar como.

Inferência de IA eficiente e escalável

O OKE aproveita ao máximo o Kubernetes para gerenciar com eficiência os pods de inferência, ajustando automaticamente os recursos para atender à demanda. Com o Kubernetes Cluster Autoscaler, o OKE pode redimensionar automaticamente os pools de nós gerenciados com base nas demandas de carga de trabalho em tempo real, permitindo alta disponibilidade e gerenciamento de custos ideal ao dimensionar os serviços de inferência.

O agendamento avançado e o gerenciamento de recursos do OKE permitem definir alocações precisas de CPU e memória para pods de inferência, oferecendo suporte a um desempenho consistente e confiável à medida que as cargas de trabalho flutuam. Saiba mais sobre como implementar e gerenciar aplicações no OKE.

O OKE oferece opções robustas para inferência de IA escalável e econômica, incluindo nós virtuais para dimensionamento rápido em nível de pod e a flexibilidade de execução em processadores baseados em GPU e Arm.

Saiba como implementar microsserviços de inferência NVIDIA NIM em escala com o OCI Kubernetes Engine.

Para obter mais informações sobre como executar inferência de IA em nós de GPU, consulte a documentação sobre executar aplicações em nós baseados em GPU.

Facilite a migração de aplicações com o OKE

Ao trazer suas aplicações para o OKE, você pode:

• Migrar aplicações existentes no estado em que se encontram, sem necessidade de reestruturação. Basta migrar e usar.
• Simplificar o seu dia a dia com automação integrada para dimensionamento, aplicação de patches e atualizações.
• Simplificar o gerenciamento de infraestrutura, para que a equipe gaste menos tempo em manutenção e mais em inovação.
• Aumentar a eficiência de recursos e otimizar custos com ferramentas avançadas de orquestração.
• Aumentar a agilidade, o tempo de atividade e a resiliência com as regiões de nuvem globais de alta disponibilidade da Oracle.
• Reforçar a segurança e facilitar a conformidade usando os controles e certificações de nível empresarial da Oracle.

Modernizar com o OKE significa que você avança mais rápido e com mais segurança, enquanto a Oracle cuida das partes complexas nos bastidores. Essa é a migração facilitada, para que você possa se concentrar no que mais importa: seu negócio.

Siga o guia de implementação passo a passo sobre como usar OKE, OCI Bastion e GitHub Actions para uma migração segura e automatizada.

Para obter mais informações sobre recursos e gerenciamento do OKE, consulte a documentação oficial do OKE.

Acelere o desenvolvimento de microsserviços com OKE

A criação de microsserviços OKE permite que suas equipes:

• Desenvolva e implemente serviços de forma independente, para que boas ideias sejam lançadas mais rapidamente.
• Automatize compilações e implementações com integrações OCI para CI/CD para atualizações mais tranquilas (e fins de semana mais tranquilos).
• Dimensione cada microsserviço sob demanda para atender às suas necessidades de negócios, sem mais preocupações com a alocação de recursos.
• Modernize sua arquitetura para obter agilidade e resiliência para preparar sua empresa para o que vier pela frente.

Com o OKE, você obtém as ferramentas robustas e a segurança empresarial pelas quais a Oracle é conhecida, além da flexibilidade que os microsserviços exigem. Mude a maneira como você cria, atualiza e dimensiona aplicações, com menos dores de cabeça e muito mais controle.

Para obter mais informações sobre como desenvolver e gerenciar microsserviços:

• Explore arquiteturas de referência e melhores práticas para criar microsserviços na OCI
• Monitore e otimize suas aplicações com o Oracle Application Performance Monitoring Cloud Service para microsserviços
• Pratique a implementação, o gerenciamento e o dimensionamento de microsserviços no OKE neste workshop prático do LiveLab
• Confira uma implementação de referência de microsserviços Spring Boot na Oracle Cloud