Création d'un système RAG multiagent avec le protocole Agent2Agent
Introduction
Cette solution Oracle Autonomous AI Database intègre un système de génération augmentée de récupération (RAG) multiagent, connu sous le nom de RAG agénétique, pour améliorer la communication et les performances avec les grands modèles de langage (LLM) open source. Agentic RAG modifie la façon dont les utilisateurs accèdent aux informations dans les référentiels de documents, les sites Web et les bases de code. Il extrait des informations à partir de données non structurées, automatise l'extraction à grande échelle et permet aux LLM de fournir des réponses synthétisées et informées sur les données qui prennent en charge une prise de décision plus rapide.
L'un des principaux différenciateurs de cette solution est l'intégration du protocole Agent2Agent (A2A), un standard ouvert développé par Google. Le protocole A2A facilite la communication et la collaboration entre les agents. Contrairement aux pipelines monolithiques traditionnels, A2A permet le déploiement d'agents indépendants, la découverte dynamique via des cartes d'agent et la gestion détaillée des tâches, ce qui améliore considérablement l'évolutivité et simplifie les opérations dans les systèmes multiagents. La solution utilise l'intégration LangChain avec Oracle AI Database, ce qui simplifie la configuration des banques de vecteurs et la recherche, tout en fournissant une structure flexible pour orchestrer un raisonnement complexe et multi-agent par chaîne de pensée (CoT).
Le système résout les goulets d'étranglement inhérents à la mise à l'échelle dans les implémentations multi-agents en déployant chaque type d'agent (planificateur, chercheur et synthétiseur) sur des clusters de calcul dédiés avec une allocation de ressources personnalisée. Cette approche assure l'isolement des pannes et l'efficacité opérationnelle en veillant à ce que les pics de charge globale d'un type d'agent n'affectent pas les autres. En outre, A2A prend en charge la conformité de l'entreprise avec des stratégies de sécurité personnalisables, des modèles d'authentification, y compris JSON Web Token (JWT) et OpenID Connect (OIDC), et une journalisation d'audit détaillée au niveau de l'agent.
Démonstration
Prérequis et configuration
- Compte Oracle Cloud : page d'inscription
- Oracle AI Database - documentation
- Oracle Autonomous AI Database - documentation
- Protocole A2A : documentation
- Gradio : documentation
- LangChain : documentation
- Trafilatura : documentation