OCI Supercluster and AI Infrastructure
Oracle Cloud Infrastructure (OCI) Supercluster provides ultrafast cluster networking, HPC storage, and OCI Compute bare metal instances. OCI Supercluster is ideal for training generative AI, including conversational applications and diffusion models. With support for up to tens of thousands of NVIDIA GPUs, OCI Compute bare metal instances and VMs can power applications for computer vision, natural language processing, recommendation systems, and more.
Oracle and NVIDIA partner to speed AI adoption for enterprises (2:06)
كيف تتفوق OCI Supercluster على المنافسين
-
قابلية توسّع رائدة في المجال للذكاء الاصطناعي التوليدي
نشر ما يصل إلى عشرات الآلاف من وحدات معالجة الرسومات (GPU) لكل مجموعة لزيادة قابلية التوسع
-
زمن وصول متميز وعرض نطاق ترددي فائق السرعة*
قلِّل الوقت اللازم لتدريب الذكاء الاصطناعي من خلال بنية شبكة إيثرنت البسيطة التي توفِّر أداءً عاليًا على نطاق واسع.
-
الوصول إلى الخبراء المتخصّصين في الذكاء الاصطناعي
احصل على المساعدة الهندسية مع بنية الحلول والشبكات والأمان والتدقيق وتهيئة الموظفين الجدد وترحيل التطبيقات وغير ذلك الكثير.
تحدث مع Oracle حول تسريع أحمال عمل وحدة معالجة الرسومات (GPU).
استكشاف كيفية دعم OCI لتدريب النماذج والتطبيقات المتوازية
نشر عشرات الآلاف من وحدات GPU من NVIDIA H100 وA100
يتم توصيل كل مثيل دون أنظمة تشغيل لحوسبة OCI باستخدام شبكة مجموعات OCI فائقة التأخير، والتي يمكن أن تصل إلى عشرات الآلاف من وحدات GPU من NVIDIA H100 أو A100 في مجموعة واحدة. تستخدم هذه المثيلات بنية شبكة OCI الفريدة عالية الأداء، التي تستفيد من RDMA عبر شبكة إيثرنت متقاربة (RoCE) إصدار 2 لمدة ميكروثانية من التأخير بين نقاط التوصيل وعرض النطاق الترددي القريب لسعر الخط.
يوفِّر تنفيذ OCI لـ RoCE v2 ما يلي:
- 1600 جيجابايت/ثانية من عرض النطاق الترددي لكل خادم و200 جيجابايت/ثانية من عرض النطاق الترددي لكل وحدة معالجة رسومات من نوع A100
- 3200 جيجابايت/ثانية من عرض النطاق الترددي لكل خادم و400 جيجابايت/ثانية من عرض النطاق الترددي لكل وحدة معالجة رسومات من نوع H100
شبكات مجموعات RDMA عالية السرعة
توفِّر الحوسبة عالية الأداء على OCI إمكانات حوسبة فعّالة من ناحية التكلفة لحل المشكلات الرياضية والعلمية المُعقدة في مختلف الصناعات.
يعرِض الرسم البياني أداء نسيج شبكة مجموعة Oracle. أقل من 10000 خلية محاكاة في النواة، يمكن لـ OCI توسيع نطاقها فوق 100% باستخدام رموز CFD الشائعة، نفس الأداء الذي تراه محليًا. من المهم ملاحظة أنه بدون الانتقاص من المحاكاة الافتراضية، يمكن لأجهزة الحوسبة عالية الأداء (HPC) التي تعمل من دون أنظمة تشغيل استخدام جميع المراكز على العقدة دون الحاجة إلى حجز أيّ مراكز للحصول على نفقات إضافية مكلفة.
الحوسبة عالية الأداء (HPC) على OCI
تنافس HPC في OCI أداء الحلول المحلية مع التكاليف المستندة إلى المرونة والاستهلاك للسحابة، مما يوفر إمكانية حسب الطلب للتوسع بعشرات الآلاف من المراكز في وقت واحد. يمكن للعملاء الوصول إلى معالجات عالية التردد؛ وتخزين محلي سريع وكثيف؛ وشبكات مجموعات RDMA عالية الإنتاجية وذات تأخير منخفض للغاية؛ وأدوات لأتمتة الوظائف وتشغيلها بسلاسة.
يمكن لمنصة OCI توفير فترات كمون منخفضة تصل إلى 1.7 ميكروثانية، أقل من أيّ مورد سحابي آخر، وفقًا لتحليل أجرته Exabyte.io. من خلال تمكين المجموعات المتصلة بـ RDMA، وسعت OCI شبكة المجموعات للخوادم التي لا تعتمد على أنظمة تشغيل والمجهزة بوحدات GPU من نوع NVIDIA H100 وA100 . يتيح نسيج شبكة للواجهة الخلفية الرائد للعملاء إنشاء مجموعات مع نفس الشبكات ذات زمن الوصول المنخفض وقابلية تطوير التطبيقات التي يمكن عملها محليًا.
مجموعات وحدات معالجة الرسومات الفريدة من نوعها التي تعمل من دون خادم
توفِّر مثيلات وحدة معالجة الرسومات من نوع NVIDIA بدون أنظمة تشغيل من OCI للشركات الناشئة منصة حوسبة عالية الأداء للتطبيقات التي تعتمد على التعلم العميق وأنظمة التوصية ووظائف الحوسبة عالية الأداء المتوازية بشكل كبير. مثيلات وحدة معالجة الرسومات (GPU) مناسبة بشكل مثالي لتدريب النماذج وحساب الاستدلال وتوفير الفيزياء والصور والتطبيقات المتوازية على نطاق واسع.
تقدم OCI مثيلات بثماني وحدات GPU من NVIDIA H100 أو NVIDIA A100. بينما توفر OCI Supercluster القدرة على توسيع نطاق يصل إلى مئات أو آلاف وحدات GPU لكل مجموعة، فإن OCI توفر أيضًا القدرة على النشر على نطاق أصغر بكثير، بدءًا بوحدة معالجة رسومات واحدة فقط.
OCI في NVIDIA GTC، مؤتمر الذكاء الاصطناعي وmetaverse
شاهد كيف تدعم OCI وNVIDIA نماذج الذكاء الاصطناعي من الجيل التالي
يستخدم العملاء مثل Adept، وهو بحث عن التعلم الآلي ومختبر المنتجات الذي يطور زميل فريق عالمي للذكاء الاصطناعي، قوة تقنيات OCI وNVIDIA لإنشاء الجيل التالي من نماذج الذكاء الاصطناعي. من خلال تشغيل الآلاف من وحدات معالجة الرسومات NVIDIA على مجموعات من مثيلات الحوسبة بدون أنظمة تشغيل لدى OCI والاستفادة من عرض النطاق الترددي لشبكة OCI، يمكن لشركة Adept تدريب نماذج الذكاء الاصطناعي والتعلم الآلي على نطاق واسع بشكل أسرع وأكثر اقتصادية من ذي قبل.
تبني شركة Adept زميلًا قويًا للذكاء الاصطناعي للجميع باستخدام Oracle وNVIDIA
"مع قابلية التوسع وقوة الحوسبة لـ OCI وتقنية NVIDIA، ندرِّب شبكة عصبية لاستخدام كل تطبيق برمجي وموقع ويب وواجهة برمجة تطبيقات موجودة، وذلك استنادًا إلى الإمكانات التي أنشأها صانعو البرامج بالفعل".
ديفيد لوان، الرئيس التنفيذي
مختبر Adept
تقوم SoundHound باختيار OCI لدعم النمو الهائل للشركة
"نستعرض هذه العلاقة مع OCI على المدى الطويل. متحمسون للاستفادة من وحدات معالجة الرسومات واستخدام ذلك لتدريب جيلنا القادم من الذكاء الاصطناعي الصوتي. يوجد الكثير مما نعتقد أن OCI ستوفره لنا من ناحية النمو المستقبلي."
جيمس هومو، المؤسس ونائب رئيس المنتجات في
SoundHound
Emory University تستخدم Oracle Cloud للمساعدة في مكافحة مرض باركنسون
"باستخدام Oracle Cloud، نعمل بين أربع وثماني وحدات GPU بالتوازي مع تسريع تقدمنا البحثي بشكل كبير، مما يعني أنه يمكننا إتمام تجربة في بضع ساعات فحسب."
هيوخين كون، أستاذ مساعد، في المعلوماتية الطبية الحيوية
Emory University
جامعة ميشيغان تحسِّن ملخصات الذكاء الاصطناعي النصية
"عند إجراء تجارب بالتكوين نفسه، فإن A100 يستخدم وقتًا أقل بنسبة 25% في المتوسط. ما يجعل عملية إعداد الجهاز على Oracle Cloud أكثر سهولة وسلاسة".
شويانغ كاو، مساعد أبحاث طلاب الدراسات العليا
جامعة ميشيغان
توسِّع MosaicML نطاق تدريب الذكاء الاصطناعي/التعلم الآلي على OCI
تعرَّف على سبب اكتشاف MosaicML أن OCI هي أفضل أساس لتدريب الذكاء الاصطناعي.
توفر Softdrive محطات عمل من الجيل التالي باستخدام OCI Compute وNVIDIA A10
"تمثل Softdrive مستقبل أجهزة الكمبيوتر التجارية. في سوق أجهزة الكمبيوتر السحابية، يعني الأداء كل شيء. حسنت وحدات معالجة الرسومات من NVIDIA على خوادم OCI التي تعمل من دون أنظمة تشغيل التجربة بشكل كبير لعملائنا."
ليونارد آيفي، المؤسس
Softdrive
ما المضمَّن مع مثيلات وحدات معالجة الرسومات على OCI؟
دعم هندسي مخصَّص
توفِّر منصة OCI خبراء فنيين رفيعي المستوى لمساعدتك في بدء العمل والتشغيل. نعمل على إزالة الحواجز الفنية لعملية النشر المعقدة، من التخطيط إلى الإطلاق، وذلك للمساعدة على ضمان نجاحك.
- تطوير بنية الحل
- الشبكات والأمان والمراجعة
- الإعداد إلى OCI
- ترحيل التطبيقات
- التدريب ما بعد الترحيل
اقتصاديات محسَّنة
تم تصميم OCI للمؤسسات التي تسعى إلى الحصول على أداء أعلى وتكاليف أقل باستمرار وترحيل أسهل إلى السحابة لبرمجياتها المحلية الحالية.
- اتصال الشبكة الخاصة الأقل تكلفة بنسبة 74%
- أداء أسعار أفضل بأكثر من 3 أضعاف للحوسبة
- بنية تحتية أقل تكلفة بنسبة تصل إلى 44% مع أقراص الحالة الصلبة المحلية ومرتين من ذاكرة الوصول العشوائي (RAM) وشبكات الوصول المباشر للذاكرة عن بُعد (RDMA) واتفاقية مستوى خدمة (SLA) للأداء
- عمليات الإدخال/الإخراج في الثانية بمعدّل 20 ضعفًا بأقل من نصف التكلفة
تحقق أداء OCI الاستثنائي للذكاء الاصطناعي في نتائج MLPerf Inference إصدار 3.1
سيشادري دلهيسان وأكشاي بارثاساراثي وروزو تشين، في Oracle
حققت Oracle Cloud Infrastructure (OCI) نتائج قوية عبر مقاييس أداء متعددة في مجموعة MLCommons Inference Datacenter إصدار 3.1 ، المعيار الصناعي لقياس أداء البنية التحتية للذكاء الاصطناعي. تم اختبار OCI عبر عدة أشكال تعمل بوحدات معالجة الرسومات NVIDIA، بما في ذلك وحدة GPU من NVIDIA H100 Tensor Core، ووحدة GPU من NVIDIA A100 Tensor Core، ووحدة GPU من NVIDIA A10 Tensor Core، مع النتائج الرئيسة التالية:
- حقق شكل BM.GPU.H100.8 الخاص بـ OCI مع ثماني وحدات GPU من NVIDIA H100 أفضل النتائج، إذ حقق المنافسون المتفوقون أو المطابقون على RESNET، وRetinaNet، وBERT، وDLRMv2، ومقاييس GPT-J.
- كما أظهرت BM.GPU.A100-إصدار 2.8 مع ثماني وحدات GPU من NVIDIA A100 أداءً قويًا عبر المجال.
أبرز المدونات
- 19 سبتمبر 2023 الإعلان عن التوافر العام للمثيلات بدون أنظمة تشغيل الخاصة بحوسبة OCI المَدعومة بوحدات GPU من NVIDIA H100
- 19 سبتمبر 2023 الإعلان عن حوسبة OCI باستخدام وحدات GPU من NVIDIA L40S
- 24 يوليو 2023 تسرع OCI على HPC والذكاء الاصطناعي وقاعدة البيانات باستخدام RoCE وNVIDIA ConnectX
- 16 مايو 2023 تدريب الذكاء الاصطناعي العام ونشره بشكل أسرع باستخدام MosaicML وOracle
- 28 مارس 2023 عرض نماذج التعلم الآلي (ML) على نطاق واسع باستخدام NVIDIA Triton Inference Server على OKE
- 14 فبراير، 2023 المبادئ الأولى: مجموعات OCI RDMA الفائقة—أداء متميز على نطاق واسع
موارد وحدة معالجة الرسومات
المدونات
- أسرع خوادم الملفات في السحابة العامة (تسليط الضوء على المنتجات)
- أداء NVIDIA A100 بدون أنظمة تشغيل في Oracle Cloud Infrastructure (تسليط الضوء على المنتجات)
- تشغيل التطبيقات على Oracle Cloud باستخدام Cluster Networking (الحل الفني)