OCI Supercluster والبنية التحتية للذكاء الاصطناعي
توفر Oracle Cloud Infrastructure (OCI) Supercluster شبكات مجموعة فائقة السرعة وتخزين الحوسبة عالية الأداء ومثيلات الحوسبة التي تعمل دون أنظمة تشغيل من OCI. تعد OCI Supercluster مثالية لتدريب الذكاء الاصطناعي التوليدي، بما في ذلك تطبيقات المحادثة ونماذج النشر. بدعم من ما يصل إلى عشرات الآلاف من وحدات معالجة الرسومات (GPU) من NVIDIA، يمكن لمثيلات الحوسبة التي تعمل دون أنظمة تشغيل من OCI والأجهزة الافتراضية تشغيل التطبيقات للحصول على رؤية الكمبيوتر ومعالجة اللغة الطبيعية وأنظمة التوصية والمزيد.
كيف تتفوق OCI Supercluster على المنافسين
-
قابلية توسّع رائدة في المجال للذكاء الاصطناعي التوليدي
يمكنك نشر ما يصل إلى 32,768 وحدة معالجة رسومات NVIDIA A100 لكل مجموعة لتوفير قابلية توسّع أكبر بكثير.
-
زمن وصول متميز وعرض نطاق ترددي فائق السرعة*
قلِّل الوقت اللازم لتدريب الذكاء الاصطناعي من خلال بنية شبكة إيثرنت البسيطة التي توفِّر أداءً عاليًا على نطاق واسع.
-
الوصول إلى الخبراء المتخصّصين في الذكاء الاصطناعي
احصل على المساعدة الهندسية مع بنية الحلول والشبكات والأمان والتدقيق وتهيئة الموظفين الجدد وترحيل التطبيقات وغير ذلك الكثير.
تحدث مع Oracle حول تسريع أحمال عمل وحدة معالجة الرسومات (GPU).
استكشاف كيفية دعم OCI لتدريب النماذج والتطبيقات المتوازية
إمكانية نشر ما يصل إلى 32768 وحدة معالجة رسومات NVIDIA A100
يتم توصيل كل مثيل من مثيلات الحوسبة المخصّصة لحوسبة OCI باستخدام شبكة مجموعة التأخير الفائق OCI التي يمكنها توسيع ما يصل إلى 32768 وحدة معالجة رسومات NVIDIA A100 في مجموعة واحدة. تستخدم هذه المثيلات بنية شبكة OCI الفريدة عالية الأداء التي تستفيد من RDMA عبر شبكة إيثرنت متقاربة (RoCE) الإصدار الثاني لإنشاء مجموعات RDMA فائقة مع زمن انتقال بالميكروثانية بين العُقد وعرض النطاق الترددي القريب لسعر الخط البالغ 200 جيجابت/ثانية بين وحدات معالجة الرسومات.
يوفِّر تنفيذ OCI لـ RoCE v2 ما يلي:
- 1600 جيجابايت/ثانية من عرض النطاق الترددي لكل خادم و200 جيجابايت/ثانية من عرض النطاق الترددي لكل وحدة معالجة رسومات من نوع A100
- 3200 جيجابايت/ثانية من عرض النطاق الترددي لكل خادم و400 جيجابايت/ثانية من عرض النطاق الترددي لكل وحدة معالجة رسومات من نوع H100
شبكات مجموعات RDMA عالية السرعة
توفِّر الحوسبة عالية الأداء على Oracle Cloud Infrastructure إمكانات حوسبة فعّالة من حيث التكلفة لحل المشكلات الرياضية والعلمية المعقدة في مختلف الصناعات.
توفِّر الخوادم بدون أنظمة تشغيل من OCI والمقترنة بالشبكات العنقودية من Oracle الوصول إلى وقت استجابة فائق (أقل من 2 ميكروثانية عبر مجموعات عشرات الآلاف من المراكز) RDMA على شبكة الإيثرنت المتقاربة (RoCE) الإصدار الثاني.
يعرِض الرسم البياني أداء نسيج شبكة مجموعة Oracle. يمكن لـ OCI توسيع نطاقها بنسبة 100% عند أقل من 10,000 خلية محاكاة لكل نواة باستخدام رموز CFD الشائعة، وهو الأداء نفسه الذي قد تراه في البرمجيات المحلية. من المهم ملاحظة أنه بدون الانتقاص من المحاكاة الافتراضية، يمكن لأجهزة الحوسبة عالية الأداء (HPC) التي تعمل من دون أنظمة تشغيل استخدام جميع المراكز على العقدة دون الحاجة إلى حجز أيّ مراكز للحصول على نفقات إضافية مكلفة.
الحوسبة عالية الأداء (HPC) على OCI
تنافس HPC في OCI أداء الحلول المحلية مع التكاليف المستندة إلى المرونة والاستهلاك للسحابة، مما يوفر إمكانية حسب الطلب للتوسع بعشرات الآلاف من المراكز في وقت واحد.
باستخدام HPC في OCI، يمكنك الوصول إلى معالجات عالية التردد؛ وتخزين محلي سريع وكثيف؛ وشبكات مجموعات RDMA عالية الإنتاجية وذات كُمون منخفض للغاية؛ وأدوات لأتمتة الوظائف وتشغيلها بسلاسة.
يمكن لمنصة OCI توفير فترات كمون منخفضة تصل إلى 1.7 ميكروثانية، أقل من أيّ مورد سحابي آخر، وفقًا لتحليل أجرته Exabyte.io. من خلال تمكين المجموعات المتصلة بـ RDMA، قامت OCI بتوسيع شبكة المجموعات للخوادم التي لا تعتمد على أنظمة تشغيل والمجهزة بوحدات معالجة الرسومات من نوع NVIDIA A100.
يتيح نسيج الشبكة الخلفية الرائد للعملاء استخدام بطاقات واجهة الشبكة بسرعة ConnectX-5 100 جيجابت في الثانية من Mellanox مع الوصول المباشر للذاكرة عن بُعد (RDMA) عبر شبكة إيثرنت متقاربة (RoCE) الإصدار الثاني لإنشاء مجموعات بقابلية التطوير نفسها للتطبيقات والشبكات منخفضة الكُمون والتي يمكن تحقيقها في البرمجيات المحلية.
مجموعات وحدات معالجة الرسومات الفريدة من نوعها التي تعمل من دون خادم
توفِّر مثيلات وحدة معالجة الرسومات من نوع NVIDIA بدون أنظمة تشغيل من OCI للشركات الناشئة منصة حوسبة عالية الأداء للتطبيقات التي تعتمد على التعلم الآلي ومعالجة الصور ووظائف الحوسبة عالية الأداء المتوازية بشكل كبير. مثيلات وحدة معالجة الرسومات (GPU) مناسبة بشكل مثالي لتدريب النماذج وحساب الاستدلال وتوفير الفيزياء والصور والتطبيقات المتوازية على نطاق واسع.
تشتمل مثيلات BM.GPU4.8 على ثماني وحدات معالجة رسومات من نوع NVIDIA A100 وتستخدم شبكات المجموعات ذات زمن الكُمون المنخفض من Oracle، استنادًا إلى الوصول إلى الذاكرة المباشرة عن بُعد (RDMA) التي تعمل عبر شبكة إيثرنت المتقاربة (RoCE) مع زمن كُمون أقل من 2 ميكروثانية. يمكن للعملاء الآن استضافة أكثر من 500 مجموعة وحدة معالجة رسومات والتوسع بسهولة حسب الطلب.
OCI في NVIDIA GTC، مؤتمر الذكاء الاصطناعي وmetaverse
شاهد كيف تدعم OCI وNVIDIA نماذج الذكاء الاصطناعي من الجيل التالي
يستخدم العملاء مثل Adept، وهو بحث عن التعلم الآلي ومختبر المنتجات الذي يطور زميل فريق عالمي للذكاء الاصطناعي، قوة تقنيات OCI وNVIDIA لإنشاء الجيل التالي من نماذج الذكاء الاصطناعي. من خلال تشغيل الآلاف من وحدات معالجة الرسومات NVIDIA على مجموعات من مثيلات الحوسبة بدون أنظمة تشغيل لدى OCI والاستفادة من عرض النطاق الترددي لشبكة OCI، يمكن لشركة Adept تدريب نماذج الذكاء الاصطناعي والتعلم الآلي على نطاق واسع بشكل أسرع وأكثر اقتصادية من ذي قبل.
تبني شركة Adept زميلًا قويًا للذكاء الاصطناعي للجميع باستخدام Oracle وNVIDIA
"مع قابلية التوسع وقوة الحوسبة لـ OCI وتقنية NVIDIA، ندرِّب شبكة عصبية لاستخدام كل تطبيق برمجي وموقع ويب وواجهة برمجة تطبيقات موجودة، وذلك استنادًا إلى الإمكانات التي أنشأها صانعو البرامج بالفعل".
ديفيد لوان، الرئيس التنفيذي
مختبر Adept
تقوم SoundHound باختيار OCI لدعم النمو الهائل للشركة
"نستعرض هذه العلاقة مع OCI على المدى الطويل. متحمسون للاستفادة من وحدات معالجة الرسومات واستخدام ذلك لتدريب جيلنا القادم من الذكاء الاصطناعي الصوتي. يوجد الكثير مما نعتقد أن OCI ستوفره لنا من ناحية النمو المستقبلي."
جيمس هومو، المؤسس ونائب رئيس المنتجات في
SoundHound
"لقد اخترنا Oracle بسبب القدرة على تحمّل التكلفة والأداء لوحدات معالجة الرسومات (GPU) جنبًا إلى جنب مع البصمة السحابية الواسعة من Oracle. وتُعدّ وحدات معالجة الرسومات (GPU) من الأمور المهمة جدًا لتدريب نماذج الشبكات العصبية العميقة. فكلما كان أداء وحدة معالجة الرسومات (GPU) أعلى، كانت نماذجنا أفضل. ولأننا نعمل في عدة بلدان ومناطق مختلفة، كنا بحاجة إلى البنية التحتية لدعم ذلك".
نيلس هيلست، المؤسس والرئيس التنفيذي
شركة DigiFarm
جامعة ميشيغان تحسِّن ملخصات الذكاء الاصطناعي النصية
"عند إجراء تجارب بالتكوين نفسه، فإن A100 يستخدم وقتًا أقل بنسبة 25% في المتوسط. ما يجعل عملية إعداد الجهاز على Oracle Cloud أكثر سهولة وسلاسة".
شويانغ كاو، مساعد أبحاث طلاب الدراسات العليا
جامعة ميشيغان
توسِّع MosaicML نطاق تدريب الذكاء الاصطناعي/التعلم الآلي على OCI
تعرَّف على سبب اكتشاف MosaicML أن OCI هي أفضل أساس لتدريب الذكاء الاصطناعي.
توفر Softdrive محطات عمل من الجيل التالي باستخدام OCI Compute وNVIDIA A10
"تمثل Softdrive مستقبل أجهزة الكمبيوتر التجارية. في سوق أجهزة الكمبيوتر السحابية، يعني الأداء كل شيء. حسنت وحدات معالجة الرسومات من NVIDIA على خوادم OCI التي تعمل من دون أنظمة تشغيل التجربة بشكل كبير لعملائنا."
ليونارد آيفي، المؤسس
Softdrive
ما المضمَّن مع مثيلات وحدات معالجة الرسومات على OCI؟
دعم هندسي مخصَّص
توفِّر منصة OCI خبراء فنيين رفيعي المستوى لمساعدتك في بدء العمل والتشغيل. نعمل على إزالة الحواجز الفنية لعملية النشر المعقدة، من التخطيط إلى الإطلاق، وذلك للمساعدة على ضمان نجاحك.
- تطوير بنية الحل
- الشبكات والأمان والمراجعة
- الإعداد إلى OCI
- ترحيل التطبيقات
- التدريب ما بعد الترحيل
اقتصاديات محسَّنة
تم تصميم OCI للمؤسسات التي تسعى إلى الحصول على أداء أعلى وتكاليف أقل باستمرار وترحيل أسهل إلى السحابة لبرمجياتها المحلية الحالية.
- اتصال الشبكة الخاصة الأقل تكلفة بنسبة 74%
- أداء أسعار أفضل بأكثر من 3 أضعاف للحوسبة
- بنية تحتية أقل تكلفة بنسبة تصل إلى 44% مع أقراص الحالة الصلبة المحلية ومرتين من ذاكرة الوصول العشوائي (RAM) وشبكات الوصول المباشر للذاكرة عن بُعد (RDMA) واتفاقية مستوى خدمة (SLA) للأداء
- عمليات الإدخال/الإخراج في الثانية بمعدّل 20 ضعفًا بأقل من نصف التكلفة
تدريب الذكاء الاصطناعي التوليدي ونشره بشكل أسرع باستخدام MosaicML وOracle
بانديش شاه، مدير هندسي في MosaicML وأكشاي بارتاساراتي، مدير تسويق المنتجات في Oracle
لقد أبهرتنا نماذج الذكاء الاصطناعي التوليدية بقدرتها على تلخيص الأسئلة والإجابة عنها، وإنشاء البرامج، وحتى كتابة الشعر. هذه الأدوات لها آثار عملية على مجالات مختلفة مثل الخدمات المالية، حيث يمكن استخدامها في تعريف المخاطر والحماية من الاحتيال وخدمة العملاء.
اقرأ المنشور الكاملأبرز المدونات
- 28 مارس 2023 عرض نماذج التعلم الآلي (ML) على نطاق واسع باستخدام NVIDIA Triton Inference Server على OKE
- 21 مارس 2023 الإعلان عن توافر محدود لمثيلات الحوسبة التي تعمل دون أنظمة تشغيل من OCI المدعومة بوحدات معالجة الرسومات NVIDIA H100
- 14 فبراير، 2023 المبادئ الأولى: مجموعات OCI RDMA الفائقة—أداء متميز على نطاق واسع
- 14 فبراير 2023 ما القادم: تدريب نماذج الذكاء الاصطناعي الكبيرة للغة على خمس عمليات على OCI
- 13 ديسمبر 2022 المبادئ الأولى: بناء شبكة عالية الأداء في السحابة العامة
موارد وحدة معالجة الرسومات
المدونات
- أسرع خوادم الملفات في السحابة العامة (تسليط الضوء على المنتجات)
- أداء NVIDIA A100 بدون أنظمة تشغيل في Oracle Cloud Infrastructure (تسليط الضوء على المنتجات)
- تشغيل التطبيقات على Oracle Cloud باستخدام Cluster Networking (الحل الفني)