Feinabstimmung von LLMs mit OCI Generative AI Playground

Einführung

Wenn wir mit großen Sprachmodellen (LLMs) arbeiten, haben wir normalerweise das Modell, das auf die Trainingsdaten reagiert, die es gegeben hat. Das Training dieser Modelle kann jedoch schwierig sein, da sie viele Ressourcen wie GPUs und Strom verbrauchen.

Glücklicherweise hat sich die Modelloptimierung weiterentwickelt, um eine "kleinere Trainingsversion" mit weniger Daten durch einen Prozess namens Feinabstimmung zu ermöglichen.

Die spezifische Beispiellösung unten bietet eine Methode zur Feinabstimmung eines LLM mit dem Oracle Cloud Infrastructure (OCI) Generative AI Playground, einer Schnittstelle in der OCI-Konsole.

Demo

Voraussetzungen und Setup

1. Oracle Cloud-Account – Anmeldeseite
2. Erste Schritte mit OCI Generative AI – Dokumentation für OCI Generative AI
3. OCI Generative AI-Feinabstimmung – Dokumentation für OCI Generative AI-Feinabstimmung
4. OCI Generative AI Playground – Dokumentation für OCI Generative AI Playground
5. Python 3.10
6. Open Source Package Manager – Conda

Erste Schritte

• Detaillierte Schritte und Beispielcode auf GitHub