モデル
OCI生成AIのCohereとMetaで利用可能なモデルには、以下が含まれます。
- Cohere Command R：スケーラブル・モデルの新しいカテゴリの一部であるCommand Rは、高い効率性と、検索拡張生成（RAG）アプリケーションの強力な精度の両立を目指しています。Command Rは、元のCohereモデルと比較して、より高いスループットと低レイテンシ、より大きなコンテキスト・ウィンドウ、10言語にわたる強力なパフォーマンスを実現します。
- Cohere Command R+： Command R+は、より専門的なユースケースを対象とした、Command Rの追加トレーニングによって拡張されています。Command R+は、言語をより深く理解し、より機微を捉え、コンテキストに適切な応答を生成する能力を持っています。Command R+は、特定のドメインまたは業界向けの長文コンテンツの生成、要約、質問の回答、言語生成などのユースケースに使用します。
- Cohere Embed：英語および多言語の埋込みモデル（v3）は、テキストをベクトル埋込み表現に変換します。Embedの「Light」バージョンは、より小さくかつより高速です（英語のみ）。
- Meta Llama 3： Llama 3モデルは、パフォーマンスと応答の多様性を向上させた最先端のオープンソースです。改善された機能には、判断、コード生成および従うべき指示が含まれます。OCI生成AIは、LoRAメソッドを使用したファインチューニングをサポートするLlama 3 70Bモデルを提供します。
専用AIクラスタ
専用AIクラスタにより、プライベートな専用GPU上で基本モデルをホストすることが可能となります。これらのクラスタは、本番ユースケースに必要な高スループット・パフォーマンスを提供し、ワークロードのホスティングと微調整をサポートします。OCI生成AIは、ダウンタイムなしでクラスタをスケールアウトし、ボリュームの変化に対応することができます。
Chat APIおよびプレイグラウンド
チャット・エクスペリエンスは、CohereおよびMetaモデルによりすぐに利用できるインタフェースを提供し、ユーザーはOCIコンソールまたはAPIを介して質問したり、会話型レスポンスを取得したりできます。
LangChain統合
OCI Generative AIは、言語モデルに基づく生成AIアプリケーションの新しいインターフェース開発に使用できるオープン・ソース・フレームワークであるLangChainと統合されています。LangChainにより、言語モデルとの連携に必要な抽象化やコンポーネントの入れ替えが容易になります。
LlamaIndex統合
コンテキスト拡張アプリケーションを構築するためのオープン・ソース・フレームワークであるLlamaIndexをOCI生成AIとともに使用して、RAGソリューションまたはエージェントを簡単に構築できます。カスタム・データ・ソースと柔軟なツールにより、ソリューションをプロトタイプから本番へと移行できます。
生成AIの運用
OCI生成AIは、コンテンツ・モデレーション制御を提供しており、ダウタイムなしでのエンドポイント・モデルの交換、エンドポイントの無効化および有効化機能を間もなく提供する予定です。それぞれのモデルのエンドポイントについて、OCI生成AIは、コール統計、トークン処理、エラー・カウントなど、一連の分析を取得します。
Oracle Fusion Cloud Applications向けのOCI生成AI
OCI Generative AIで作成した機能をOracle Cloudアプリケーションに直接埋め込むことで、Oracleはお客様が複雑な統合なしにAIによる機能にすぐにアクセスできるようにしています。