Ottimizzazione dei LLM con l'interfaccia di test di OCI Generative AI

Introduzione

Quando lavoriamo con modelli linguistici di grandi dimensioni (LLM, large language model), in genere il modello risponde ai dati di formazione forniti. Tuttavia, l'addestramento di questi modelli può essere difficile poiché utilizzano molte risorse, come GPU e potenza.

Fortunatamente, l'ottimizzazione del modello è avanzata per consentire una versione di "addestramento più piccolo" con meno dati, attraverso un processo chiamato ottimizzazione.

La soluzione di esempio specifica riportata di seguito fornisce un metodo per perfezionare un LLM utilizzando il campo di gioco dell'intelligenza artificiale generativa di Oracle Cloud Infrastructure (OCI), un'interfaccia nella console OCI.

Demo

Prerequisiti e impostazione

1. Account Oracle Cloud: pagina di iscrizione
2. Introduzione a OCI Generative AI: documentazione per OCI Generative AI
3. Ottimizzazione dell'AI generativa OCI: documentazione per l'ottimizzazione dell'AI generativa OCI
4. Campo di gioco dell'AI generativa OCI: documentazione per il parco di giochi dell'AI generativa OCI
5. Python 3.10
6. Package manager open source: Conda

Inizia

• Passi dettagliati e codice di esempio su GitHub