In der heutigen Technologielandschaft können wir auf Forschung und Statistiken zurückgreifen, Datenfeeds für Analysen einbeziehen und Erkenntnisse gewinnen, um Entscheidungen in Echtzeit zu treffen. Neue Informationen können jedoch auch für die robustesten Analyselösungen schwer zu parsen und zu kontextualisieren sein. Hier ist die retrieval-augmented generation (RAG) nützlich, mit der Sie die Kenntnisse eines großen Sprachmodells erweitern können, ohne es neu zu trainieren, wenn neue Informationen verfügbar sind. Dadurch wird Ihr Modell mit neueren Daten aktualisiert, sodass es mit minimalem Aufwand leistungsfähiger wird.
Mit generativen KI-Agents von Oracle Cloud Infrastructure (OCI) können Sie genau das tun. In diesem Beispiel laden wir unsere Dokumente hoch, verarbeiten diese Daten, legen sie in einem Vektorspeicher ab (über OCI Search mit OpenSearch), erstellen ein Redis-Cluster für Caching-Zwecke und bieten Ihnen eine Möglichkeit, die Daten über einen Chatbot zu konsumieren.
Für die Infrastruktur sind die folgenden OCI-Services vorhanden: