Inworld unterstützt revolutionäres Gameplay und Mechanik mit OCI AI Infrastructure

Inworld ist eine führende KI-Plattform für Spiele, die es Entwicklern ermöglicht, LLMs, Narrative und KI-Agenten zu integrieren, die sich mit jeder Aktion weiterentwickeln – und so interaktive, immersive Spielerlebnisse schaffen. Das Unternehmen verfügte bereits über eine leistungsfähige Modellflotte, eine klare Geschäftsstrategie und wachsendes Interesse aus der Branche. Was noch fehlte, war ein technologisches Rückgrat, das alle Modelle miteinander verbindet, um Trainings- und Bereitstellungspipelines effizient zu betreiben und künftiges Wachstum zu unterstützen. Als junges Unternehmen verfügte Inworld noch nicht über einen eigenen GPU-Cluster. Stattdessen setzte das Unternehmen auf die stundenweise Nutzung von GPUs bei Providern, die jedoch nicht unbedingt skalierbar waren. Mit dem Wachstum von Inworld wuchs jedoch auch der Bedarf an Skalierbarkeit, um die steigende Nachfrage zu erfüllen.

Parallel dazu musste das Entwicklungsteam ständig große Datenmengen zwischen verschiedenen Umgebungen bewegen, wie z. B. für Entwicklung, Tests und Schulung. Das beeinträchtigte nicht nur die Stabilität der API-Aufrufe an das Inworld-Modell, sondern belastete auch die Ressourcen. Diese Herausforderungen wurden durch die äußerst spezialisierten Machine-Learning-Modelle von Inworld zusätzlich verschärft – darunter Modelle für Spracherkennung, Kontextverarbeitung und Sprachsynthese, die speziell für Echtzeitleistung unter hoher Last und anspruchsvolle Gaming-Szenarien entwickelt wurden.

Im Jahr 2023 machte ein Traffic-Spitzenvorfall den Führungskräften von Inworld deutlich, dass das Unternehmen eine zuverlässigere Infrastruktur benötigte. Durch einen viralen YouTube-Streamer stieg die Nachfrage schlagartig um das Hundertfache. Infolgedessen priorisierte Inworld eine Cloud-Infrastruktur, die alle Modelle und Daten in einem einzigen Cluster konsolidieren konnte – um den stark erhöhten Datenverkehr zuverlässig und mit niedriger Latenz zu verarbeiten.

Nach der Evaluierung verschiedener Cloud-Provider entschied sich Inworld für Oracle Cloud Infrastructure (OCI). Die OCI AI Infrastructure erfüllte sämtliche technischen Anforderungen – mit Bare-Metal-GPUs für Höchstleistung, verbunden über ein RDMA-Clusternetzwerk mit extrem niedriger Latenz. Zudem erkannte das Unternehmen, dass sich die Entwicklungsprozesse mit der OCI Kubernetes Engine (OKE) deutlich vereinfachen lassen. Ein entscheidender Faktor war auch das Supportteam von Oracle, das Inworld bei der Optimierung der Bereitstellung unterstützte. „Seit Beginn unserer Zusammenarbeit mit Oracle – sogar schon vor Vertragsunterzeichnung – erhalten wir wirklich großartigen Support“, sagte Igor Poletaev, Vice President of AI.

Durch die Migration der ML-Entwicklung und -Produktion an einen zentralen Ort auf OCI konnte das Inworld-Team seine Entwicklungszyklen deutlich beschleunigen, die Wartungskosten reduzieren und mehr Ressourcen für kreative Forschung und Weiterentwicklung freisetzen. Das Unternehmen startete mit einem Cluster aus 256 GPUs, um sowohl proprietäre als auch Open-Source-Modelle zu trainieren und bereitzustellen. Mit OCI konnte Inworld so ein wahrhaft immersives Erlebnis erschaffen – mit generativen, nicht spielbaren KI-Charakteren.