AI-oplossing

Chatbot met RAG met behulp van OCI Generative AI Agents

Inleiding

In het huidige technologielandschap kunnen we gebruikmaken van onderzoek en statistieken, data-feeds toevoegen voor analyse en inzichten tekenen om in realtime beslissingen te nemen. Nieuwe informatie kan echter moeilijk worden ontleed en gecontextualiseerd, zelfs voor de meest robuuste analyseoplossingen. Hier is RAG (Retrieval-augmented generation) handig, zodat u de kennis van een groot taalmodel kunt vergroten zonder dat u het opnieuw hoeft te trainen wanneer er nieuwe informatie beschikbaar is. Hierdoor wordt uw model bijgewerkt met meer recente gegevens, waardoor het capabeler wordt, met minimale inspanning.

Met Oracle Cloud Infrastructure (OCI) Generative AI Agents kunt u precies dat doen. In dit voorbeeld uploaden we onze documenten, verwerken we deze gegevens, plaatsen we deze in een vectoropslag (via OCI Search met OpenSearch), maken we een Redis-cluster voor cachingdoeleinden en bieden we u een manier om de gegevens te consumeren via een chatbot.

Voor de infrastructuur zijn de volgende OCI-services aanwezig:

  • OCI-cache voor caching van interacties tussen gebruikers en agenten (zodat we enige context aan het model kunnen geven)
  • OCI Search met cluster OpenSearch voor zoeken naar indexgelijkheden (vectordatabase) en opslaan van indexen met gegevens
  • OCI Compute voor veilige verbinding met de OpenSearch-cluster (via OCI-priv√©subnetroutering)
  • Generatieve AI-agenten van OCI voor communicatie en interactie met de gegevens in ons cluster

-demonstratie

Demo: Chatbot met RAG met behulp van OCI Generative AI Agents (1:38)

Vereisten en instellingen

  1. Aanmeldingspagina voor Oracle Cloud account
  2. Aan de slag met OCI Generative AI Agents - documentatie
  3. Configuratie van OCI SDK en opdrachtregelinterface
  4. Generatieve AI-Python-SDK van OCI
  5. Aan de slag met OCI Generative AI API-documentatie
  6. Open-source pakketbeheer: Conda