Inworld optimise le gameplay et la mécanique révolutionnaires avec OCI AI Infrastructure

Inworld est une plateforme d'IA de premier plan pour les jeux qui permet aux développeurs d'intégrer des LLM, des récits et des agents d'IA qui évoluent à chaque action pour des expériences interactives. L'entreprise disposait d'une flotte de modèles d'IA fonctionnels, d'une stratégie commerciale solide et d'un intérêt croissant pour le secteur. Ce dont elle avait besoin, cependant, était de connecter ses différents modèles à une colonne vertébrale pour former et servir les pipelines afin de soutenir la croissance future. En tant que jeune entreprise, Inworld ne disposait pas encore d'un cluster de GPU de calcul. Au lieu de cela, elle louait des GPU à l'heure, un modèle qui ne pouvait pas nécessairement évoluer. Cependant, à mesure qu'Inworld grandissait, il fallait de plus en plus évoluer pour répondre à la demande.

En outre, l'équipe d'ingénierie devait constamment déplacer les données pour le développement, les tests et l'entraînement entre les fournisseurs. Cela a eu un impact sur la stabilité fonctionnelle des appels d'API vers le modèle Inworld, qui a drainé les ressources. Ces obstacles ont été aggravés par la nature unique des modèles de machine learning de l'entreprise. Ils incluaient la reconnaissance vocale, la conscience contextuelle et des modèles de synthèse vocale conçus pour des performances en temps réel dans les cas d'utilisation à forte charge et divers jeux.

En 2023, un incident de pic de trafic a prouvé aux dirigeants d'Inworld que l'entreprise avait besoin d'une infrastructure plus fiable. Les demandes d'Inworld ont été multipliées par 100 suite à un stream viral sur YouTube. L'entreprise a donc cherché en priorité une infrastructure cloud qui pourrait consolider tous les modèles et données sous un seul cluster dans le but de traiter le trafic tout en maintenant la fiabilité et la latence.

Inworld a évalué différents fournisseurs cloud et a finalement sélectionné Oracle Cloud Infrastructure (OCI). OCI AI Infrastructure cochait toutes les cases techniques nécessaires avec des GPU bare metal de calcul haute performance connectés par un réseau de cluster RDMA à très faible latence. En outre, l'entreprise a réalisé que l'utilisation d'OCI Kubernetes Engine (OKE) simplifierait les opérations de développement. Un autre facteur clé était l'équipe de support d'Oracle, qui a aidé l'entreprise à optimiser son déploiement. « Depuis que nous avons commencé à travailler avec Oracle, même avant la signature du contrat, nous bénéficions d'un excellent soutien », explique Igor Poletaev, Vice President of AI.

Après avoir migré le développement et la production de machine learning vers un emplacement unique sur OCI, l'équipe d'Inworld a considérablement accéléré les cycles, réduit les coûts de maintenance et alloué des ressources pour une R&D plus créative. L'entreprise a commencé avec un cluster de 256 GPU pour l'entraînement et l'hébergement de modèles propriétaires et open source. OCI a aidé Inworld à offrir une expérience véritablement immersive avec des personnages non jouables d'IA générative.