Inworld potencia una mecánica y una jugabilidad revolucionarias con OCI AI Infrastructure

Inworld es una plataforma líder de IA para juegos que permite a los desarrolladores integrar LLM, narrativas y agentes de IA que evolucionan con cada acción para experiencias interactivas. La empresa contaba con una flota de modelos de IA en funcionamiento, una sólida estrategia empresarial y un creciente interés del sector. Lo que necesitaba, sin embargo, era conectar sus distintos modelos a un eje troncal para entrenar y servir a los pipelines para respaldar el crecimiento futuro. Como empresa joven, Inworld aún no disponía de un clúster de GPU de cálculos. En cambio, dependía del uso por hora de GPUs de proveedores que no necesariamente podían escalar. Sin embargo, a medida que Inworld crecía, necesitaba ajustarse cada vez más para satisfacer la demanda.

Además, el equipo de ingeniería tenía que trasladar constantemente datos para el desarrollo, las pruebas y el entrenamiento entre proveedores. Esto afectó a la estabilidad funcional de las llamadas de API al modelo Inworld, lo que agotó los recursos. Estos obstáculos se vieron agravados por la naturaleza única de los modelos de aprendizaje automático (ML) de la empresa. Incluían modelos de reconocimiento de voz, conciencia contextual y de síntesis de voz, diseñados para un rendimiento en tiempo real en casos de uso de alta carga y varios juegos.

En 2023, un incidente con un pico de tráfico demostró a los dirigentes de Inworld que la empresa necesitaba una infraestructura más confiable. Las demandas de Inworld se multiplicaron por 100 gracias a un streamer viral de YouTube. Así pues, la empresa dio prioridad a una infraestructura en la nube que pudiera consolidar todos los modelos y datos bajo un único clúster con el objetivo de procesar el tráfico manteniendo la confiabilidad y la latencia.

Inworld encuestó a proveedores de nube y finalmente seleccionó Oracle Cloud Infrastructure (OCI). OCI AI Infrastructure marcó las casillas técnicas necesarias con GPU con hardware dedicado de recursos informáticos de alto rendimiento conectadas por una red de clústeres RDMA de latencia ultrabaja. Además, la empresa observó que el uso de Oracle Cloud Infrastructure Kubernetes Engine simplificaría las operaciones de desarrollo. Otro factor clave fue el equipo de soporte de Oracle, que ayudó a la empresa a optimizar su implementación. "Desde que comenzamos a trabajar con Oracle, incluso antes de firmar el contrato, recibimos un gran apoyo", afirma Igor Poletaev, vicepresidente de IA.

Tras migrar el desarrollo y la producción de ML a un solo lugar en OCI, el equipo de Inworld aceleró significativamente los ciclos, redujo los costos de mantenimiento y destinó recursos a una I+D más creativa. La empresa comenzó con un clúster de 256 GPU para entrenar y servir modelos propios y de código abierto. Como resultado, OCI ayudó a Inworld a ofrecer una experiencia verdaderamente inmersiva con personajes no jugables de IA generativa.