強力なNVIDIA GPUとデータ並列性などの技術により、カスタムAIモデルをより迅速にトレーニングできます。
1つのノードで複数のGPUを使用するとパフォーマンスが向上しますが、ハードウェアの制限によって使用可能なGPUの数が制限される場合があります。これを克服するために、ネットワーク上で2つ以上のノードが接続されている複数のOracle Cloud Infrastructure (OCI)インスタンスにまたがる分散トレーニングを活用できます。
そこに平行性がある。並列化では、計算を小さな部分に分割し、異なるコンピューティング・リソースで同時に実行できます。