AI 解决方案

使用 OCI Generative AI Agents 构建 RAG 聊天机器人

介绍

在当今的技术环境中,我们可以利用研究和统计,提取数据馈送进行分析,并获得洞察来实时做出决策。然而,即使对于最强大的分析解决方案,新信息也很难解析和上下文化。这就是检索增强生成 (retrieval-augmented generation,RAG) 的用处,允许您增强大型语言模型的知识,而无需在有新信息时对其进行重新训练。这会使用最新数据更新模型,使其功能更强大,工作量更少。

Oracle Cloud Infrastructure (OCI) Generative AI Agents 可助您实现这一目标。在此示例中,我们将上载文档、处理这些数据、将其放入向量存储(通过使用 OpenSearch 的 OCI 搜索)、创建用于缓存的 Redis 集群,并为您提供通过聊天机器人使用数据的方法。

对于基础设施,我们将提供以下 OCI 服务:

  • 用于缓存用户 - 代理交互的 OCI 高速缓存(因此我们可以为模型提供一些上下文)
  • OCI Search with OpenSearch cluster for index similarity search(使用 OpenSearch 集群搜索索引相似性搜索(向量数据库)并使用数据存储索引
  • 用于安全连接到 OpenSearch 集群的 OCI 计算(通过 OCI 专用子网路由)
  • OCI Generative AI Agents,用于与集群中的数据进行通信和交互

演示

演示:使用 OCI Generative AI Agents 使用 RAG 实现聊天机器人 (1:38)

先决条件和设置

  1. Oracle Cloud 账户 - 注册页面
  2. OCI Generative AI Agents 入门—文档
  3. OCI SDK 和命令行界面— 配置
  4. OCI Generative AI — Python SDK
  5. OCI Generative AI API 入门— 文档
  6. 开源包管理器— Conda

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国 。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。