Chatbot avec RAG grâce à OCI Generative AI Agents
Introduction
Dans le paysage technologique d'aujourd'hui, nous pouvons exploiter la recherche et les statistiques, en tirant des flux de données pour l'analyse et en tirant des informations pour prendre des décisions en temps réel. Cependant, les nouvelles informations peuvent être difficiles à analyser et à contextualiser, même pour les solutions d'analyse les plus robustes. C'est là que la génération augmentée de récupération (RAG) est utile, ce qui vous permet d'augmenter les connaissances d'un grand modèle de langage sans le réentraîner lorsque de nouvelles informations sont disponibles. Cela met à jour votre modèle avec des données plus récentes, ce qui le rend plus capable, avec un minimum d'effort.
Les agents d'IA générative Oracle Cloud Infrastructure (OCI) vous permettent de le faire. Dans cet exemple, nous allons télécharger nos documents, traiter ces données, les placer dans une banque de vecteurs (via OCI Search avec OpenSearch), créer un cluster Redis à des fins de mise en cache et vous fournir un moyen d'utiliser les données via un chatbot.
Pour l'infrastructure, les services OCI suivants seront présents :
- Cache OCI pour la mise en cache des interactions utilisateur-agent (nous pouvons donc donner un contexte au modèle)
- OCI Search avec le cluster OpenSearch pour la recherche de similarité d'index (base de données vectorielle) et le stockage d'index avec des données
- OCI Compute pour se connecter au cluster OpenSearch en toute sécurité (via le routage de sous-réseau privé OCI)
- Agents OCI Generative AI pour communiquer et interagir avec les données de notre cluster
Démonstration
Prérequis et configuration
- Compte Oracle Cloud : page d'inscription
- Introduction à OCI Generative AI—documentation
- Kit SDK OCI et interface de ligne de commande : configuration
- OCI Generative AI : SDK Python
- Gestionnaire de packages open source : Conda