Soluzione AI

Ottimizzazione dei LLM con l'interfaccia di test di OCI Generative AI

Argomenti sulla soluzione AI

Introduzione

Quando lavoriamo con modelli di linguaggio di grandi dimensioni (LLM), in genere abbiamo il modello che risponde ai dati di formazione che è stato dato. Tuttavia, la formazione di questi modelli può essere difficile poiché utilizzano molte risorse, come GPU e alimentazione.

Per fortuna, l'ottimizzazione dei modelli è avanzata per consentire una versione di "addestramento più piccolo" con meno dati, attraverso un processo chiamato fine-tuning.

La soluzione di esempio specifica riportata di seguito fornisce un metodo per perfezionare un LLM utilizzando l'ambiente di gioco dell'AI generativa Oracle Cloud Infrastructure (OCI), un'interfaccia nella console OCI.

Demo

Demo: LLM ottimizzati con OCI Generative AI Playground (1:29)

Prerequisiti e impostazione

  1. Account Oracle Cloud: pagina di registrazione
  2. Introduzione alla documentazione dell'IA generativa OCI
  3. Documentazione per il tuning dell'intelligenza artificiale generativa OCI per il tuning dell'intelligenza artificiale generativa OCI
  4. Parco giochi dell'intelligenza artificiale generativa OCI: documentazione per il parco giochi dell'IA generativa OCI
  5. Python 3.10
  6. Package manager open source - Conda