Kubernetes Engine (OKE)

Acelera el desarrollo de modelos de IA

El proceso de desarrollo de modelos de IA empieza por la preparación de los datos y la experimentación, con un acceso seguro y compartido a las GPU y una administración centralizada. OKE permite a los equipos:

– Maximizar el uso de las GPU mediante clústeres seguros y multiinquilino

– Colaborar con eficiencia en entornos gestionados de forma centralizada

– Integración con Kubeflow para un desarrollo y un despliegue optimizados de los modelos

Obtén más información sobre la ejecución de aplicaciones en nodos basados en GPU con OKE.

OKE: una solución diseñada específicamente para la IA y el aprendizaje automático

OKE se basa en la infraestructura de alto rendimiento de OCI para ofrecerte:

– Acceso a las más recientes GPU de NVIDIA (H100, A100, A10, etc.)

– Redes RDMA ultrarrápidas para un rendimiento máximo y una latencia baja

– Control total con nodos trabajadores de Kubernetes gestionados o autogestionados

Descubre cómo crear un clúster de Kubernetes e instalarle Kubeflow.

Orquesta cargas de entrenamiento de forma eficiente

Los científicos de datos requieren una programación optimizada con el fin de maximizar el uso de los recursos para las tareas de entrenamiento. OKE admite programadores avanzados como Volcano y Kueue para ejecutar con eficiencia cargas de trabajo paralelas y distribuidas.

El entrenamiento de modelos de IA a gran escala requiere redes de clústeres rápidas y de baja latencia. La infraestructura habilitada para RDMA de OCI permite a OKE mover datos directamente hacia y desde la memoria de las GPU, minimizando la latencia y maximizando el rendimiento.

OKE: una solución lista para el entrenamiento de modelos de IA de alto rendimiento

OKE se basa en la infraestructura confiable de OCI para brindarte:

– Acceso a GPU de NVIDIA (H100, A100, A10, etc.)

– Conexiones de red ultrarrápidas respaldadas por RDMA

– Flexibilidad para ejecutar tareas en nodos de Kubernetes autogestionados

Obtén más información sobre cómo ejecutar aplicaciones en nodos basados en GPU con OKE.

¿Listo para ejecutar cargas de trabajo de GPU en OKE con nodos dedicados NVIDIA A100? Te enseñamos cómo en este tutorial.

Inferencia de IA eficiente y escalable

OKE aprovecha al máximo Kubernetes para gestionar de forma eficiente los pods de inferencia, ajustando los recursos automáticamente para satisfacer la demanda. Con Kubernetes Cluster Autoscaler, OKE cambia automáticamente el tamaño de los grupos de recursos en función de la demanda en tiempo real de las cargas de trabajo, ofreciendo alta disponibilidad y una gestión óptima de los costos cuando se amplían los servicios de inferencia.

La gestión de recursos y la programación avanzadas de OKE te permiten asignar CPU y memoria de forma precisa a los pods de inferencia. De este modo se consigue un rendimiento constante y confiable con independencia de las fluctuaciones de las cargas de trabajo. Obtén más información sobre el despliegue y la gestión de aplicaciones en OKE.

OKE ofrece opciones robustas de inferencia de IA escalable y rentable, incluidos nodos virtuales para un escalado rápido a nivel de los pods y flexibilidad para ejecutar tanto en GPU como en procesadores basados en Arm.

Descubre cómo desplegar microservicios de inferencia NVIDIA NIM a gran escala con OCI Kubernetes Engine.

Para más información sobre cómo ejecutar inferencia de IA en nodos de GPU, consulta la documentación para ejecutar aplicaciones en nodos basados en GPU.

Migra aplicaciones fácilmente con OKE

Al traer aplicaciones a OKE, puedes:

• Migrar aplicaciones existentes tal cual, sin necesidad de rediseñarlas. Basta con migrar y listo.
• Simplificar tu día a día con automatización integrada para ampliar, parchear y actualizar.
• Optimizar la gestión de la infraestructura para que tu equipo pase menos tiempo realizando tareas de mantenimiento y más innovando.
• Impulsar la eficiencia de los recursos y optimizar los costos con herramientas de orquestación avanzadas.
• Incrementar la agilidad, la disponibilidad y la resiliencia con las regiones de nube globales de alta disponibilidad de Oracle.
• Fortalecer la seguridad y facilitar el cumplimiento normativo con las certificaciones y los controles empresariales de Oracle.

Modernizar con OKE te permite moverte más rápido y de forma más segura, mientras Oracle gestiona los aspectos más complejos en segundo plano. Te facilitamos la migración para que puedas centrarte en lo más importante: tu negocio.

Sigue la guía de despliegue paso a paso sobre el uso de OKE, OCI Bastion y GitHub Actions para una migración segura y automatizada.

Para más información sobre las funciones y la gestión de OKE, consulta la documentación oficial de OKE.

Impulsa el desarrollo de microservicios con OKE

Crear microservicios con OKE permite a tus equipos:

• Desarrollar y desplegar servicios de forma independiente, para que puedas dar a conocer tus mejores ideas más rápido.
• Automatizar versiones e implementaciones con las integraciones de OCI para la integración y el despliegue continuos, para conseguir actualizaciones más fluidas (y fines de semana más tranquilos).
• Escalar cada microservicio bajo demanda para satisfacer tus necesidades de negocio. Se acabó el todo o nada en las asignaciones de recursos.
• Modernizar tu arquitectura para conseguir la agilidad y resiliencia que necesita tu negocio para pasar al siguiente nivel.

OKE te ofrece la seguridad empresarial y las herramientas robustas que dan fama a Oracle, además de la flexibilidad que requieren los microservicios. Cambia tu forma de crear, actualizar y ampliar aplicaciones, con menos dolores de cabeza y mucho más control.

Para más información sobre el desarrollo y la gestión de microservicios:

• Consulta las arquitecturas de referencia y las mejores prácticas para el desarrollo de microservicios en OCI
• Monitorea y optimiza tus aplicaciones con Oracle Application Performance Monitoring Cloud Service para microservicios
• Practica el despliegue, la gestión y el escalado de microservicios en OKE en este taller práctico LiveLab
• Consulta una implementación de referencia de microservicios de Spring Boot