AI 解決方案

使用 OCI Generative AI Agents 打造 RAG 聊天機器人

簡介

在現今的技術環境中,我們可以利用研究和統計數據,提取資料饋送進行分析和繪製見解,即時做出決策。不過,即使是最健全的分析解決方案,新資訊也很難剖析和情境化。這是 retrieval-augmented Generation (RAG) 有用的地方,可讓您加強大型語言模型的知識,而不必在有新資訊可用時重新訓練。這會以更近期的資料更新您的模型,讓您以最少的精力提升模型的能力。

Oracle Cloud Infrastructure (OCI) Generative AI Agents 可讓您這麼做。在此範例中,我們將上傳文件、處理此資料、將其放入向量存放區 (透過 OCI Search with OpenSearch)、建立 Redis 叢集以進行快取,並提供透過聊天機器人使用資料的方式。

針對基礎架構,我們將提供下列 OCI 服務:

  • 用於快取使用者代理程式互動的 OCI 快取 (因此我們可以將某些相關資訊環境提供給模型)
  • OCI Search with OpenSearch cluster for index Similarity search (向量資料庫) 以及使用資料儲存索引
  • 可安全地連線至 OpenSearch 叢集的 OCI Compute (透過 OCI 專用子網路路由)
  • OCI 生成式 AI 代理程式能夠與叢集中的資料進行通訊和互動

展示

示範:使用 OCI 生成式 AI 代理程式搭配 RAG 的聊天機器人 (1:38)

先決條件與設定

  1. Oracle Cloud 帳戶 - 註冊頁面
  2. OCI Generative AI 代理程式入門 - 文件
  3. OCI SDK 和命令行介面 - 組態
  4. OCI 生成式 AI-Python SDK
  5. OCI Generative AI API 入門 - 文件
  6. 開放原始碼套裝程式管理程式 - Conda