Crea una solución RAG multiagente en OCI
Introducción
La generación aumentada por recuperación (RAG) puede ser útil para consultas sencillas. Pero ¿qué pasa si las consultas son complejas, requieren razonamiento de varios pasos y toma de decisiones? Ahí es cuando, por ejemplo, un chatbot de soporte que pueda solucionar problemas, no solo recuperar preguntas frecuentes, sería más útil.
En esta solución, configuraremos una canalización RAG multiagente y la implementaremos en Oracle Cloud Infrastructure (OCI) con Oracle Database 23ai para responder inteligentemente a una consulta. Los agentes de modelos de lenguaje grande (LLM) planifican, investigan y razonan la respuesta de la AI; este proceso de cadena de pensamiento (CoT) emula la resolución de problemas de las personas. Una interfaz de Gradio orquesta el procesamiento de datos: se cargan, procesan y almacenan como vectores múltiples fuentes de datos usando herramientas de código abierto. Gradio también proporciona la interfaz de chat para ingresar una consulta en lenguaje natural.
Con la visualización CoT en Gradio, verás los pasos y decisiones que toma cada agente para entregar la respuesta final sintetizada. Esta solución proporciona un ejemplo fácil de seguir acerca de cómo la IA auténtica puede mejorar las capacidades de razonamiento de los modelos locales y en la nube.
Demostración
Requisitos y configuración
- Cuenta de Oracle Cloud—página de registro
- OCI Generative AI—documentación
- OCI Generative AI Agents—documentación
- Oracle Database 23ai—documentación
- Docling—documentación
- Gradio—documentación
- Trafilatura—documentación