Utilizzo del parallelismo dei dati per addestrare più rapidamente i modelli AI personalizzati

Introduzione

Con potenti GPU NVIDIA e tecniche come il parallelismo dei dati, puoi addestrare i tuoi modelli AI personalizzati più velocemente.

L'utilizzo di più GPU su un singolo nodo offre un incremento delle prestazioni, ma le limitazioni hardware potrebbero limitare il numero di GPU disponibili. Per superare questo problema, possiamo sfruttare la formazione distribuita su più istanze di Oracle Cloud Infrastructure (OCI) in cui abbiamo due o più nodi connessi su una rete.

È qui che entra in gioco il parallelismo. Il parallelismo comporta la suddivisione del calcolo in parti più piccole che possono essere eseguite contemporaneamente su diverse risorse di calcolo.

Demo

Prerequisiti e impostazione

1. Account Oracle Cloud: pagina di iscrizione
2. Oracle Cloud Infrastructure: documentazione
3. Oracle Cloud Marketplace NVIDIA GPU-Optimized VMI - documentazione
4. Istanze GPU di Oracle Cloud: documentazione

Inizia

• Passi dettagliati e codice di esempio su GitHub