Crea una soluzione RAG multiagente su OCI
Introduzione
La generazione RAG (Rrieval-augmented Generation) può essere utile per query semplici. Ma cosa succede se le query sono complesse e richiedono un ragionamento in più fasi e un processo decisionale? Ecco quando, ad esempio, un chatbot di supporto che potrebbe risolvere i problemi, non solo recuperare le domande frequenti, sarebbe più utile.
In questa soluzione, imposteremo una pipeline RAG multiagente e la implementeremo su Oracle Cloud Infrastructure (OCI) per rispondere in modo intelligente a una query. Gli agenti del modello di linguaggio di grandi dimensioni (LLM) pianificano, ricercano e ragionano la risposta dell'IA; questo processo di catena di pensiero (CoT) emula la risoluzione dei problemi umani. Un'interfaccia Gradio orchestra l'elaborazione dei dati: più origini dati vengono caricate, incluse e memorizzate come vettori utilizzando strumenti open source. Gradio fornisce anche l'interfaccia di chat per inserire una query in linguaggio naturale.
Con la visualizzazione CoT in Gradio, vedrai i passaggi e le decisioni prese da ciascun agente per fornire la risposta finale sintetizzata. Questa soluzione fornisce un esempio facile da seguire di come l'intelligenza artificiale autentica può migliorare le funzionalità di ragionamento dei modelli locali e basati sul cloud.
Demo
Prerequisiti e impostazione
- Account Oracle Cloud: pagina di iscrizione
- Documentazione sull'AI generativa OCI
- Agenti AI generativa OCI: documentazione
- Oracle Database 23ai: documentazione
- Docling: documentazione
- Documentazione gradio
- Documentazione sulla trafilatura