AI 解决方案

在 OCI 上构建多智能体 RAG 解决方案

介绍

检索增强生成 (RAG) 适用于简单直接的查询。但如果查询较为复杂,需要多步推理和决策时该如何处理?例如,一款不仅能检索常见问题解答 (FAQ),还能排查问题的客服聊天机器人,会更具实用价值。

在本解决方案中,我们将搭建一个多 agent RAG 管道,并借助 Oracle AI Database 将其部署在 Oracle Cloud Infrastructure (OCI) 上,以智能响应查询。大语言模型 (LLM) agent 将对 AI 的回复进行规划、研究和推理;这种思维链 (CoT) 过程可模拟人类解决问题的方式。Gradio 界面负责编排数据处理 — 通过开源工具上传、摄入多个数据源,并将其存储为向量。Gradio 同时提供聊天界面,用于输入自然语言查询。

借助 Gradio 中的 CoT 可视化功能,您可以直观看到每个 agent 为生成最终整合回复所执行的步骤和决策。本解决方案提供了一个易于理解的示例,展示 agentic AI 如何增强本地模型和云端模型的推理能力。

演示

演示:在 OCI 上构建多 agent RAG 解决方案 (1:26)

先决条件和设置

  1. Oracle Cloud 账户 — 注册页面
  2. OCI Generative AI — 文档
  3. OCI Generative AI Agents — 文档
  4. Oracle AI Database — 文档
  5. Docling — 文档
  6. Gradio — 文档
  7. Trafilatura — 文档

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。