Inworld、OCI AIインフラストラクチャによる革新的なゲームプレイとメカニックを強化

Inworldは、インタラクティブな体験を実現するために、開発者によるLLM、ナラティブ、アクションごとに進化するAIエージェントの組み込みを可能にする、ゲーム向けの業界をリードするAIプラットフォームを提供 しています。同社は、実用的な一連のAIモデルと健全なビジネス戦略を有しており、業界からの関心が高まっていました。しかし、同社が必要としていたことは、さまざまなモデルをバックボーンに接続してパイプラインをトレーニングしてサービス提供し、将来の成長をサポートすることでした。設立間もない企業であるInworldは、まだコンピュートGPUのクラスタを所有していませんでした。同社は、必ずしもスケール可能ではないプロバイダーによるGPUを時間単位で使用する方法をとっていました。しかし、Inworldが成長するにつれ、需要に応じてスケールする必要性が高まってきました。

さらに、エンジニアリング・チームは、開発、テスト、トレーニング用のデータをプロバイダー間で常に移動させる必要がありました。これにより、InworldのモデルへのAPI呼び出し機能の安定性に影響を与え、リソースの浪費を招きました。これらの障害は、企業の機械学習モデルの独自の性質により、さらに深刻なものとなりました。これらのモデルには、音声認識、状況認識、音声合成が含まれ、高負荷およびさまざまなゲームのユースケースでリアルタイム・パフォーマンスを発揮するように設計されていました。

2023年、トラフィックの急増というインシデントが発生したことで、Inworldのリーダーは、企業にはより信頼性の高いインフラストラクチャが必要であることを認識しました。大人気のYouTubeストリーマーにより、Inworld の需要は100倍に増加しました。そこで同社は、信頼性とレイテンシを維持しながらトラフィックを処理することを目標に、すべてのモデルとデータを単一のクラスタに統合できるクラウド・インフラストラクチャの優先度設定を行いました。

Inworld はクラウド・プロバイダーを調査し、最終的にOracle Cloud Infrastructure (OCI)を選択しました。超低レイテンシのRDMAクラスタ・ネットワークによって連携された高いパフォーマンスのコンピューティング・ベアメタルGPUを備えたOCI AIインフラストラクチャは、必要な技術的条件を満たしていました。さらに同社は、OCI Kubernetes Engine (OKE)の使用により、開発業務が簡素化されることを認識しました。もうひとつの重要な要素は、導入の最適化を支援したオラクルのサポート・チームでした。「契約締結前にもかかわらず、オラクルとの協業を開始して以来、本当に素晴らしいサポートを受けることができました」とAI担当バイスプレジデントのIgor Poletaev氏は語ります。

MLの開発と本番環境をOCI上に移行した後、Inworldのチームはサイクルを大幅に高速化し、メンテナンス・コストを削減し、よりクリエイティブな研究開発にリソースを割り当てました。同社は、独自のモデルとオープンソース・モデルの両方のトレーニングとサービス提供を行うために、256GPUのクラスタからスタートしました。その結果、OCIはInworldが生成AIによるノンプレイアブル・キャラクターによる真のイマーシブ・エクスペリエンスを提供できるよう支援しました。