Gegevensparallellisatie gebruiken om aangepaste AI-modellen sneller te trainen

Inleiding

Met krachtige NVIDIA GPU's en technieken zoals gegevensparallellisatie kunt u uw aangepaste AI-modellen sneller trainen.

Het gebruik van meerdere GPU's op één node verhoogt de prestaties, maar hardwarebeperkingen kunnen het aantal beschikbare GPU's beperken. Om dit te overwinnen, kunnen we gebruikmaken van gedistribueerde training in meerdere Oracle Cloud Infrastructure (OCI) instances waar we twee of meer nodes hebben verbonden via een netwerk.

Daar komt het parallellisme in. Parallellisme houdt in dat de berekening wordt opgesplitst in kleinere onderdelen die gelijktijdig op verschillende computerresources kunnen worden uitgevoerd.

-demonstratie

Vereisten en instellingen

1. Oracle Cloud account: aanmeldingspagina
2. Documentatie over Oracle Cloud Infrastructure
3. Oracle Cloud Marketplace NVIDIA GPU-geoptimaliseerde VMI — documentatie
4. documentatie over Oracle Cloud GPU instances

Aan de slag

• Gedetailleerde stappen en voorbeeldcode op GitHub