检索增强生成 (RAG) 适用于简单直接的查询。但如果查询较为复杂,需要多步推理和决策时该如何处理?例如,一款不仅能检索常见问题解答 (FAQ),还能排查问题的客服聊天机器人,会更具实用价值。
在本解决方案中,我们将搭建一个多 agent RAG 管道,并借助 Oracle AI Database 将其部署在 Oracle Cloud Infrastructure (OCI) 上,以智能响应查询。大语言模型 (LLM) agent 将对 AI 的回复进行规划、研究和推理;这种思维链 (CoT) 过程可模拟人类解决问题的方式。Gradio 界面负责编排数据处理 — 通过开源工具上传、摄入多个数据源,并将其存储为向量。Gradio 同时提供聊天界面,用于输入自然语言查询。
借助 Gradio 中的 CoT 可视化功能,您可以直观看到每个 agent 为生成最终整合回复所执行的步骤和决策。本解决方案提供了一个易于理解的示例,展示 agentic AI 如何增强本地模型和云端模型的推理能力。
注:为免疑义,本网页所用以下术语专指以下含义: