Chatbot avec RAG avec OCI Generative AI Agents
Introduction
Dans le paysage technologique actuel, nous pouvons tirer parti de la recherche et des statistiques, en tirant des flux de données pour l'analyse et en tirant des informations pour prendre des décisions en temps réel. Cependant, les nouvelles informations peuvent être difficiles à analyser et à contextualiser, même pour les solutions d'analyse les plus robustes. C'est là que la génération augmentée par récupération (RAG) est utile, ce qui vous permet d'augmenter les connaissances d'un modèle de langage volumineux sans le réentraîner lorsque de nouvelles informations sont disponibles. Cela met à jour votre modèle avec des données plus récentes, ce qui le rend plus capable, avec un effort minimal.
Les agents d'IA générative Oracle Cloud Infrastructure (OCI) vous permettent de le faire. Dans cet exemple, nous allons télécharger nos documents, traiter ces données, les placer dans une banque de vecteurs (via OCI Search avec OpenSearch), créer un cluster Redis à des fins de mise en cache et vous fournir un moyen d'utiliser les données via un chatbot.
Pour l'infrastructure, les services OCI suivants sont présents :
- OCI Cache pour la mise en cache des interactions utilisateur-agent (afin de pouvoir donner du contexte au modèle)
- OCI Search avec le cluster OpenSearch pour la recherche de similarité d'index (base de données vectorielle) et le stockage des index avec des données
- OCI Compute pour une connexion sécurisée au cluster OpenSearch (via le routage de sous-réseau privé OCI)
- Agents OCI Generative AI pour communiquer et interagir avec les données de notre cluster
Démonstration
Prérequis et configuration
- Compte Oracle Cloud - Page d'inscription
- Introduction aux agents OCI Generative AI - documentation
- Kit SDK OCI et interface de ligne de commande : configuration
- OCI Generative AI - SDK Python
- Introduction à l'API OCI Generative AI - documentation
- Gestionnaire de packages open source - Conda