Gebruik dataparallellisme om aangepaste AI-modellen sneller te trainen

Inleiding

Met krachtige NVIDIA GPU's en technieken zoals dataparallellisatie kunt u uw aangepaste AI-modellen sneller trainen.

Het gebruik van meerdere GPU's op één node biedt een prestatieverbetering, maar hardwarebeperkingen kunnen het aantal beschikbare GPU's beperken. Om dit te verhelpen, kunnen we gebruikmaken van gedistribueerde training in meerdere Oracle Cloud Infrastructure (OCI) instances waarbij twee of meer nodes verbonden zijn via een netwerk.

Dit is waar parallelisme binnenkomt. Parallellisme houdt in dat de berekening wordt opgesplitst in kleinere onderdelen die tegelijkertijd op verschillende computerbronnen kunnen worden uitgevoerd.

-demonstratie

Vereisten en instellingen

1. Aanmeldingspagina voor Oracle Cloud account
2. Oracle Cloud Infrastructure - documentatie
3. Documentatie voor Oracle Cloud Marketplace NVIDIA GPU-Optimized VMI
4. Oracle Cloud GPU instances: documentatie

Aan de slag

• Gedetailleerde stappen en voorbeeldcode op GitHub