GPU-Instanzen

Oracle Cloud Infrastructure (OCI) Compute bietet Bare Metal- und Virtual-Machine-Instanzen, die von NVIDIA-GPUs für eine Vielzahl von Anwendungsfällen unterstützt werden, darunter Mainstream-Grafiken und -Videos sowie die anspruchsvollsten KI-Trainings- und HPC-Workloads. OCI zeichnet sich sowohl bei den Trainingszeiten als auch bei den Kosten durch seine ultraniedrige Latenz und der nahezu linearen Netzwerkperformance aus.

SoundHound skaliert Sprach-KI auf OCI und verbessert so die Performance
SoundHound skaliert Sprach-KI auf OCI und verbessert so die Performance um 50–60 % (3:28)
Oracle NVIDIA-Logo Oracle und NVIDIA liefern souveräne KI weltweit

Oracle und NVIDIA arbeiten zusammen, um beschleunigtes Computing und generative KI-Services bereitzustellen, die die digitale Souveränität und die Verwaltung geschützter nationaler und persönlicher Daten betreffen.

Skalierbarkeit

32.768

Maximale Anzahl von GPUs in einem OCI Supercluster1

Performance

3.200

Bis zu 3.200 GB/s RDMA-Cluster-Netzwerkbandbreite2

Mehrwert

220 %

GPUs für andere CSPs können bis zu 220 % teurer sein3

1: für Bare-Metal-Instanzen mit NVIDIA A100-GPUs, 2: für Bare-Metal-Instanzen mit NVIDIA H100-GPUs, 3: basierend auf On-Demand-Tarifen vom 16. Juni 2023

GPU-Instanzen – Wichtige Features

Die Remote Direct Memory Access-(RDMA-)Kommunikation zwischen Instanzen unterstützt große GPU-Cluster mit 3.200 Gbit/s Bandbreite und extrem niedriger Latenz.

High Performance-NVIDIA GPU-Instanzen

NVIDIA Tensor Core-GPUs

OCI bietet den größten Nutzen und die höchste Performance für Bare Metal- und VM-Compute-Instanzen, die von diesen NVIDIA-GPUs unterstützt werden: H100, L40S (in Kürze verfügbar), A100, A10, V100 und P100.

Bare Metal-Performance

Mit Bare Metal-Compute-Instanzen können Kunden hochleistungsfähige, latenzempfindliche und spezialisierte Workloads direkt auf Serverhardware ausführen – genau so, wie sie es On-Premises tun würden.

High Performance-Cluster-Networking

Das auf RDMA basierende Cluster-Networking von Oracle mit extrem niedriger Latenz bietet eine Latenz im Mikrosekundenbereich. Ohne Beeinträchtigung der Performance können Kunden Cluster mit mindestens 512 GPUs und OCI-Supercluster mit mehr als 512 GPUs hosten.

High Performance-NVIDIA GPU-Instanzen
Bandbreite im Hinblick auf Clusterknoten; 1 Knoten = 8 NVIDIA A100-GPUs.

Wählen Sie aus einer Vielzahl von VM- und Bare Metal-Compute-Instanzen

Virtuelle Maschinen und Bare Metal

Passen Sie Ihre Workload an den optimalen Instanztyp an.

VM-Instanzen

Wählen Sie für VMs aus den NVIDIA Ampere-, Volta- und Pascal-GPUs mit 1 bis 4 Cores, 16 bis 64 GB GPU-Speicher und bis zu 480 GB lokal angeschlossenem Flashspeicher aus.

Bare Metal-Instanzen

Clustern Sie Bare Metal-Instanzen für HPC und KI-Training mit NVIDIA H100 oder A100 Tensor Core-GPUs mit 640 GB GPU-Speicher pro Knoten.

Wählen Sie aus einer Vielzahl von VM- und Bare Metal-Compute-Instanzen
Vergleich der Performance von NVIDIA V100- und A10-GPUs

Reduzierte Netzwerk- und Speicherkosten

Einheitliche globale Preisgestaltung

Die Preisgestaltung von OCI ist in allen Regionen einfach und transparent und stellt sicher, dass die Cloud-Ausgaben vorhersehbar sind, unabhängig vom Standort, an dem Ihre Workloads ausgeführt werden.

Reduzierte Netzwerk- und Speicherkosten
Tarifvergleich von Cloud-Anbietern in verschiedenen Regionen

Eine sichere Cloud-Infrastruktur

Isolierte Netzwerkvirtualisierung

Verhindern Sie mit isolierter Netzwerkvirtualisierung Angriffe auf Kundenmandanten. Ein grundlegendes Element der sicherheitsorientierten Architektur der Oracle Cloud Infrastructure ist, dass sie Malware mit einer speziell entwickelten SmartNIC aufhält sowie das Netzwerk isoliert und virtualisiert.

Oracle Cloud Infrastructure Identity and Access Management

Mithilfe einfach zu definierender Richtlinien, die an logischen Benutzer- und Ressourcengruppen ausgerichtet sind, können Sie nicht nur kontrollieren, wer Zugriff auf die Ressourcen der Oracle Cloud Infrastructure hat. Sie können auch festlegen, auf welche Ressourcen zugegriffen werden darf und über welche Zugriffsart das geschehen soll. Kunden können Identitäten und Zugriffe verwalten, indem sie dazu vorhandene Organisationshierarchien und Verbundverzeichnisdienste nutzen wie Microsoft, Okta oder andere SAML-Verzeichnisanbieter.

Vertrauenswürdige Hardware

Reduzieren Sie das Risiko Firmware-basierter Angriffe auf Kundenmandanten der Oracle Cloud Infrastructure durch eine vertrauenswürdige maßgeschneiderte und hardwarebasierte Technologie, mit der die Firmware jedes Mal gelöscht und neu installiert werden kann, wenn ein neuer Server bereitgestellt oder ein neues Kundenmandat eingerichtet wird.

Oracle Web Application Firewall

Schützen Sie Anwendungen vor böswilligem oder unerwünschtem Internetverkehr mit einer cloudbasierten und PCI-kompatiblen globalen Webanwendungs-Firewall (WAF). Durch die Kombination von Bedrohungsinformationen mit der konsistenten Durchsetzung von Regeln stärkt dieser Dienst Ihre Abwehr und schützt mit dem Internet verbundene Anwendungsserver.

Oracle Cloud Infrastructure Vault

Verwalten und kontrollieren Sie zentral die Verschlüsselungsschlüssel und geheimen Anmeldeinformationen, die zum Schutz von Unternehmensdaten und des Ressourcenzugriffs verwendet werden. Die Sicherheit für beide wird in einem FIPS (Federal Information Processing Standards) 140-2 Level 3-zertifiziertem Hardwaresicherheitsmodul (HSM) gespeichert.

Benutzer können die Berechtigungen für einzelne Schlüssel und Vaults mit OCI Identity and Access Management steuern und Änderungen des Lebenszyklus von Schlüsseln mit OCI Audit überwachen, um den erweiterten Compliance-Anforderungen gerecht zu werden.

Wahl des Betriebssystems

Wählen Sie aus gängigen Betriebssystemen aus

Oracle unterstützt eine umfassende Auswahl von Betriebssystemen, die auf Microsoft Windows Server und Enterprise Linux basieren wie zum Beispiel Oracle Linux, CentOS, Ubuntu und viele andere. Oracle Autonomous Linux ist eine kostenlose, autonome Betriebssystemumgebung, die Komplexität und menschliche Fehler reduziert sowie Kosteneinsparungen, Sicherheit und die Verfügbarkeit für Oracle Cloud-Kunden erhöht.

Automatisierung der Betriebssystemverwaltung

Mit dem OCI OS Management-Service können Kunden Richtlinien für automatisierte Updates und Patches für ihre Betriebssystemumgebung festlegen.

Dokumentation anzeigen

Bring Your Own Image (BYOI)

Kunden können ihre eigenen Betriebssysteme und Hypervisors auf Oracle Compute-Instanzen ausführen und über Konfigurationsgrößen hinweg dasselbe Image verwenden.

Zugriff auf bereits verfügbare Software

Greifen Sie auf Software und Disk-Images zu

Der Oracle Cloud Marketplace bietet Software und Disk-Images für Data Science, Analysen, künstliche Intelligenz (KI) und maschinelle Lernmodelle (ML), um Kunden die Möglichkeit zu geben, schnell Erkenntnisse aus ihren Daten zu gewinnen.

NVIDIA GPU Cloud

Greifen Sie auf Hunderte von GPU-optimierten Anwendungen für Machine Learning, Deep Learning und High-Performance-Computing zu, die eine breite Palette von Branchen und Workloads abdecken. Weitere Informationen.

NVIDIA RTX Virtual Workstation

Mit NVIDIA RTX Virtual Workstation auf Oracle Cloud können Kunden hohe Workstation-Leistung überall dort bereitstellen, wo Mitarbeiter sie benötigen.

Microservices und Container

Containerregistrierung

Entwickler, die Anwendungen mithilfe von Containern erstellen, können einen hochverfügbaren, von Oracle verwalteten privaten Container-Registrierungsdienst zum Speichern und Teilen von Container-Images nutzen. Bewegen Sie Docker-Images per Push und Pull mit der Docker V2 API und der Standard-Docker-Befehlszeilenschnittstelle (CLI) in die Registrierung oder aus ihr heraus. Images können direkt als Teil einer Kubernetes-Bereitstellungsstrategie verwendet werden.

Oracle Functions

Functions as a Service (FaaS) für Entwickler zum Ausführen von Anwendungen ohne Server, die in Oracle Cloud Infrastructure, Oracle Cloud-Anwendungen und Dienste von Drittanbietern integriert sind. Sichern Sie sich Effizienz für Entwickler und Zugang zur Community des Open Source Fn-Projekts.

GPU-Instanzen – Anwendungsfälle

KI-Infrastruktur für Deep Learning-Training und Inferenzierung

Trainieren Sie KI-Modelle mit OCI Data Science, Bare-Metal-Instanzen und Cluster-Netzwerken basierend auf RDMA und NVIDIA-GPUs.


KI-Training und Inferenzierung Dieses Diagramm beschreibt zwei Phasen der Deep-Learning-Modellentwicklung: Modelltraining und Modellinferenzierung. Beim Modelltraining auf der linken Seite wird das untrainierte neuronale Netzwerk in einen Trainingsalgorithmus eingegeben, der durch OCI Data Science, Bare-Metal-Computing, lokalem Speicher und Cluster-Netzwerke ermöglicht wird. Das Ergebnis des Trainingsalgorithmus ist ein trainiertes Modell mit einer neuen Fähigkeit. Der Schritt zur Modellinferenzierung wird auf der rechten Seite beschrieben. Stellen Sie sich ein trainiertes Modell wie DALL-E 2 vor, das Texteingaben annehmen und Bilder generieren kann. Eine Texteingabe wird in das trainierte Modell eingespeist, und eine Bildausgabe des Modells wird bereitgestellt.

Virtual Desktop Infrastructure (VDI)

OCI Compute auf Basis von NVIDIA-GPUs bietet eine konsistent hohe Performance für VDI.


Virtual Desktop Infrastructure (VDI) Virtual Desktop Infrastructure

CFD und High Performance Computing mit GPU-Instanzen

OCI ermöglicht computergestütztes Engineering und Computational Fluid Dynamics für schnelle Vorhersagen der aerodynamischen Eigenschaften von Objekten.


CFD und High Performance Computing mit GPU-Instanzen CFD und High Performance Computing mit GPU-Instanzen

Erfahren Sie, wie OCI und NVIDIA KI-Modelle der nächsten Generation vorantreiben

Adept entwickelt mit Oracle und NVIDIA einen leistungsstarken KI-Teamkollegen für alle

„Mit der Skalierbarkeit und Rechenleistung der OCI- und NVIDIA-Technologie trainieren wir ein neuronales Netzwerk, um jede existierende Softwareanwendung, Website und API zu nutzen – aufbauend auf den Funktionen, die Softwarehersteller bereits geschaffen haben.“

David Luan, CEO
Adept

Wetteranalysen von National Grid mit Oracle Cloud um 40 % verbessert

„Mit Oracle Cloud Infrastructure können wir Zehntausende Modelle verarbeiten, um unsere Algorithmen enorm schnell zu trainieren. Es ist eine der besten Plattformen der Welt für die Art der Arbeit, die wir tun.“

James Kelloway, Energy Intelligence Manager
National Grid ESO

SoundHound wählt OCI, um sein enormes Unternehmenswachstum zu unterstützen

„Wir sehen diese Beziehung zu OCI als langfristig an. Wir freuen uns, die GPUs nutzen und damit unsere nächste Generation von Sprach-KI trainieren zu können. Wir glauben, dass OCI uns in Bezug auf zukünftiges Wachstum einiges bieten wird.“

James Hom, Cofounder und Vice President of Products
SoundHound

Softdrive bietet Workstations der nächsten Generation mit OCI Compute und NVIDIA A10

„Softdrive ist die Zukunft der Business-Computer. Auf dem Cloud-PC-Markt ist Performance alles. NVIDIA-GPUs auf OCI-Bare Metal-Servern haben das Erlebnis für unsere Kunden erheblich verbessert.“

Leonard Ivey, Mitbegründer
Softdrive

Twist Bioscience nutzt OCI und KI, um Proteininitiativen voranzutreiben

„Mit NVIDIA-GPUs, die auf OCI-Bare Metal-Instanzen ausgeführt werden, erlebt Twist erhebliche Performanceverbesserungen bei seinen ParaFold- und ESMFold-KI-Modellen.“

WEKA auf OCI liefert eine Leistung von 2 Terabyte pro Sekunde

„Oracle Cloud Infrastructure ist eine Hyperscaler-Cloud der Spitzenklasse, die XaaS-Compute- und Anwendungsservices für Oracle Kunden bereitstellt und viel mehr bietet, als Sie vielleicht erwarten, einschließlich KI/ML- und GPU-Workloads.“

Joel Kaufman
Senior Technical Marketing Manager, WEKA

Tango Eye bedient mit Oracle mehr Kunden zu geringeren Kosten

„Seit der Migration von AWS haben wir unseren Datenbestand vervierfacht und gleichzeitig unsere Kosten um 40 % gesenkt. Wir nutzen auf OCI 33 % weniger GPU-Compute-Kapazität als auf AWS.“

Suren Gounder, CEO
Tango Eye

Altair testet und führt über Nacht komplexe Simulationen auf OCI aus

„Die Integration mit der Cloud-Plattform von Oracle bietet uns hochmoderne GPU-Rechenressourcen, erstklassige Sicherheit und hochflexible VMware-Umgebungen. Letztendlich führt dies zu einer verbesserten Produktivität, einer optimierten Ressourcennutzung und einer schnelleren Markteinführung.“

Sam Mahalingam, Chief Technology Officer
Altair

Suno komponiert hochwertige Musik und Audio mit KI-Basismodellen auf OCI
13. November 2023

Ankündigung von Plänen, NVIDIA Grace Hopper Superchip auf OCI anzubieten

Sagar Rawal, Vice President, Oracle Cloud Infrastructure

Heute geben wir auf der SC23 unsere bevorstehenden Pläne bekannt, Oracle Cloud Infrastructure (OCI) Compute-Instanzen anzubieten, die auf dem NVIDIA GH200 Grace Hopper Superchip basieren. Der GH200 besteht aus einer Arm-CPU (Grace), die mit einer NVIDIA H100 Tensor Core GPU (Hopper) mit einem Speicher mit hoher Bandbreite von 576 GB verknüpft ist.

Vollständigen Beitrag lesen

Get started with GPU instances

Try Oracle AI and get a 30-day trial

Oracle offers a free pricing tier for most AI services as well as a free trial account with US$300 in credits to try additional cloud services. AI services are a collection of offerings, including generative AI, with prebuilt machine learning models that make it easier for developers to apply AI to applications and business operations.

  • Which Oracle AI and ML services offer a free pricing tier?

    • OCI Speech
    • OCI Language
    • OCI Vision
    • OCI Document Understanding
    • Machine Learning in Oracle Database
    • OCI Data Labeling

    You also only have to pay compute and storage charges for OCI Data Science.

See how much you can save with OCI

Oracle Cloud pricing is simple, with consistent low pricing worldwide, supporting a wide range of use cases. To estimate your low rate, check out the cost estimator and configure the services to suit your needs.

Experience the difference

  • 1/4 the outbound bandwidth costs
  • 3X the compute price-performance
  • Same low price in every region
  • Low pricing without long term commitments

Access a GPU and AI expert

Get help building your next GPU solution or deploying your AI workload on OCI AI infrastructure.

  • They can answer questions such as

    • How do I get started with Oracle Cloud?
    • What kinds of AI workloads can I run on OCI?
    • What types of AI services does OCI offer?