AIソリューション

OCI Generative AI Agentsを使用したRAGによるチャットボット

概要

今日のテクノロジー環境では、研究と統計を活用し、分析のためのデータフィードを取り込み、リアルタイムで意思決定するためのインサイトを引き出すことができます。ただし、最も堅牢な分析ソリューションであっても、新しい情報を解析してコンテキスト化することは困難です。ここでは、取得拡張生成(RAG)が役立つため、新しい情報が使用可能になったときに再トレーニングすることなく、大規模言語モデルの知識を強化できます。これにより、モデルが最新のデータで更新されるため、最小限の労力でより効率的になります。

Oracle Cloud Infrastructure(OCI)生成AIエージェントを使用すると、これを実行できます。この例では、ドキュメントをアップロードし、このデータを処理し、(OpenSearchを使用したOCI Searchを介して)ベクトル・ストアに配置し、キャッシュ目的でRedisクラスタを作成して、チャットボットを介してデータを消費する方法を提供します。

インフラストラクチャには、次のOCIサービスがあります:

  • ユーザーエージェントインタラクションをキャッシュするためのOCIキャッシュ(モデルにコンテキストを提供できるように)
  • 索引の類似性検索(ベクトル・データベース)およびデータを含む索引の格納のためのOpenSearchクラスタを使用したOCI検索
  • OpenSearchクラスタに安全に接続するためのOCIコンピュート(OCIプライベート・サブネット・ルーティングを使用)
  • OCI生成AIエージェントによるクラスタ内のデータとの通信および対話

デモ

デモ: OCI Generative AI Agentsを使用したRAGを使用したチャットボット(1:44)

前提条件および設定

  1. Oracle Cloudアカウント—サインアップ・ページ
  2. OCI Generative AIの概要- ドキュメント
  3. OCI SDKとコマンドライン・インタフェース—構成
  4. OCI生成AI - Python SDK
  5. オープン・ソース・パッケージ・マネージャー—Conda