AI 解决方案

在 OCI 上构建多代理 RAG 解决方案

介绍

检索增强生成 (RAG) 可用于简单查询。但是,如果查询非常复杂,需要进行多步骤推理和决策,结果会怎样?例如,在这种情况下,支持聊天机器人可以解决问题,而不仅仅是检索常见问题,会更有用。

在此解决方案中,我们将设置多代理 RAG 管道并将其部署在 Oracle Cloud Infrastructure (OCI) 上,以便智能地响应查询。大型语言模型 (LLM) 代理商计划,研究和推理 AI 的反应;这个思想链 (CoT) 过程模拟了人类解决问题。Gradio 接口可编排数据处理—使用开源工具上载、摄取多个数据源并将其存储为向量。Gradio 还提供了聊天界面来输入自然语言查询。

借助 Gradio 中的 CoT 可视化功能,您将看到每个座席为提供最终的综合响应而采取的步骤和决策。此解决方案提供了一个易于遵循的示例,说明代理 AI 如何增强本地和基于云的模型的推理功能。

演示

演示:在 OCI 上构建多代理 RAG 解决方案 (1:26)

先决条件和设置

  1. Oracle Cloud 账户— 注册页面
  2. OCI Generative AI — 文档
  3. OCI Generative AI Agents —文档
  4. Oracle Database 23ai — 文档
  5. 文档— 文档
  6. Gradio — 文档
  7. Trafilatura — 文档

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国 。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。