AI 解決方案

使用 Agent2Agent 通訊協定建置多代理 RAG 系統

簡介

此 Oracle Autonomous AI Database 解決方案整合了多代理程式檢索增強生成 (RAG) 系統,稱為代理 RAG,可改善與開源大型語言模型 (LLM) 的通訊和效能。代理程式 RAG 變更使用者跨文件儲存庫、網站和程式碼庫存取資訊的方式。它會從非結構化資料中擷取洞察力、大規模自動擷取,並讓 LLM 提供合成的資料通知回應,以支援更快速的決策。

此解決方案的關鍵差異在於整合 Agent2Agent (A2A) 通訊協定,這是由 Google 開發的開放標準。A2A 通訊協定可促進代理程式之間的通訊和協作。與傳統的單體管線不同,A2A 可讓獨立代理程式部署、透過代理程式卡進行動態探索,以及詳細的工作管理,大幅提升擴展性並簡化多重代理程式系統的作業。此解決方案使用 LangChain 與 Oracle AI Database 整合,簡化向量儲存和搜尋的設定,同時提供靈活的架構來協調複雜的多代理程式思維鏈 (CoT) 推理。

系統會透過在具有量身打造資源配置的專用運算叢集上部署每個代理程式類型 (規劃員、研究人員和合成器),來因應多代理程式實行中固有的擴展瓶頸。此方法可確保單一代理程式類型的工作負載激增,而不會影響其他代理程式類型,從而提供錯誤隔離和營運效率。此外,A2A 還支援企業遵守可自訂的安全原則、認證配置 (包括 JSON Web Token (JWT) 和 OpenID Connect (OIDC) 以及詳細的代理程式層級稽核記錄。

展示

示範:使用 A2A 通訊協定和 LangChain 建立 Multiagent RAG 系統 (3:00)

先決條件與設定

  1. Oracle Cloud 帳戶 — 註冊頁面
  2. Oracle AI Database —文件
  3. Oracle Autonomous AI Database —文件
  4. A2A 通訊協定—文件
  5. Gradio —文件
  6. LangChain — 文件
  7. Trafilatura —文件