GPU-Instanzen

Oracle Cloud Infrastructure (OCI) Compute bietet Bare Metal- und Virtual-Machine-Instanzen, die von NVIDIA-GPUs für eine Vielzahl von Anwendungsfällen unterstützt werden, darunter Mainstream-Grafiken und -Videos sowie die anspruchsvollsten KI-Trainings- und HPC-Workloads. OCI zeichnet sich sowohl bei den Trainingszeiten als auch bei den Kosten durch seine ultraniedrige Latenz und der nahezu linearen Netzwerkperformance aus.

SoundHound skaliert Sprach-KI auf OCI und verbessert so die Performance
SoundHound skaliert Sprach-KI auf OCI und verbessert so die Performance um 50–60 % (3:28)

OCI auf der NVIDIA GTC, der Konferenz für KI und das Metaverse

GPU-Instanzen – Wichtige Features

Die Remote Direct Memory Access-(RDMA-)Kommunikation zwischen Instanzen unterstützt große GPU-Cluster mit 3.200 Gbit/s Bandbreite und extrem niedriger Latenz.

High Performance-NVIDIA GPU-Instanzen

NVIDIA Tensor Core-GPUs

OCI bietet den größten Nutzen und die höchste Performance für Bare Metal- und VM-Compute-Instanzen, die von diesen NVIDIA-GPUs unterstützt werden: H100, L40S (in Kürze verfügbar), A100, A10, V100 und P100.

Bare Metal-Performance

Mit Bare Metal-Compute-Instanzen können Kunden hochleistungsfähige, latenzempfindliche und spezialisierte Workloads direkt auf Serverhardware ausführen – genau so, wie sie es On-Premises tun würden.

High Performance-Cluster-Networking

Das auf RDMA basierende Cluster-Networking von Oracle mit extrem niedriger Latenz bietet eine Latenz im Mikrosekundenbereich. Ohne Beeinträchtigung der Performance können Kunden Cluster mit mindestens 512 GPUs und OCI-Supercluster mit mehr als 512 GPUs hosten.

High Performance-NVIDIA GPU-Instanzen
Bandbreite im Hinblick auf Clusterknoten; 1 Knoten = 8 NVIDIA A100-GPUs.

Wählen Sie aus einer Vielzahl von VM- und Bare Metal-Compute-Instanzen

Virtuelle Maschinen und Bare Metal

Passen Sie Ihre Workload an den optimalen Instanztyp an.

VM-Instanzen

Wählen Sie für VMs aus den NVIDIA Ampere-, Volta- und Pascal-GPUs mit 1 bis 4 Cores, 16 bis 64 GB GPU-Speicher und bis zu 480 GB lokal angeschlossenem Flashspeicher aus.

Bare Metal-Instanzen

Clustern Sie Bare Metal-Instanzen für HPC und KI-Training mit NVIDIA H100 oder A100 Tensor Core-GPUs mit 640 GB GPU-Speicher pro Knoten.

Wählen Sie aus einer Vielzahl von VM- und Bare Metal-Compute-Instanzen
Vergleich der Performance von NVIDIA V100- und A10-GPUs

Reduzierte Netzwerk- und Speicherkosten

Einheitliche globale Preisgestaltung

Die Preisgestaltung von OCI ist in allen Regionen einfach und transparent und stellt sicher, dass die Cloud-Ausgaben vorhersehbar sind, unabhängig vom Standort, an dem Ihre Workloads ausgeführt werden.

Reduzierte Netzwerk- und Speicherkosten
Tarifvergleich von Cloud-Anbietern in verschiedenen Regionen

Eine sichere Cloud-Infrastruktur

Isolierte Netzwerkvirtualisierung

Verhindern Sie mit isolierter Netzwerkvirtualisierung Angriffe auf Kundenmandanten. Ein grundlegendes Element der sicherheitsorientierten Architektur der Oracle Cloud Infrastructure ist, dass sie Malware mit einer speziell entwickelten SmartNIC aufhält sowie das Netzwerk isoliert und virtualisiert.

Oracle Cloud Infrastructure Identity and Access Management

Mithilfe einfach zu definierender Richtlinien, die an logischen Benutzer- und Ressourcengruppen ausgerichtet sind, können Sie nicht nur kontrollieren, wer Zugriff auf die Ressourcen der Oracle Cloud Infrastructure hat. Sie können auch festlegen, auf welche Ressourcen zugegriffen werden darf und über welche Zugriffsart das geschehen soll. Kunden können Identitäten und Zugriffe verwalten, indem sie dazu vorhandene Organisationshierarchien und Verbundverzeichnisdienste nutzen wie Microsoft, Okta oder andere SAML-Verzeichnisanbieter.

Vertrauenswürdige Hardware

Reduzieren Sie das Risiko Firmware-basierter Angriffe auf Kundenmandanten der Oracle Cloud Infrastructure durch eine vertrauenswürdige maßgeschneiderte und hardwarebasierte Technologie, mit der die Firmware jedes Mal gelöscht und neu installiert werden kann, wenn ein neuer Server bereitgestellt oder ein neues Kundenmandat eingerichtet wird.

Oracle Web Application Firewall

Schützen Sie Anwendungen vor böswilligem oder unerwünschtem Internetverkehr mit einer cloudbasierten und PCI-kompatiblen globalen Webanwendungs-Firewall (WAF). Durch die Kombination von Bedrohungsinformationen mit der konsistenten Durchsetzung von Regeln stärkt dieser Dienst Ihre Abwehr und schützt mit dem Internet verbundene Anwendungsserver.

Oracle Cloud Infrastructure Vault

Verwalten und kontrollieren Sie zentral die Verschlüsselungsschlüssel und geheimen Anmeldeinformationen, die zum Schutz von Unternehmensdaten und des Ressourcenzugriffs verwendet werden. Die Sicherheit für beide wird in einem FIPS (Federal Information Processing Standards) 140-2 Level 3-zertifiziertem Hardwaresicherheitsmodul (HSM) gespeichert.

Benutzer können die Berechtigungen für einzelne Schlüssel und Vaults mit OCI Identity and Access Management steuern und Änderungen des Lebenszyklus von Schlüsseln mit OCI Audit überwachen, um den erweiterten Compliance-Anforderungen gerecht zu werden.

Wahl des Betriebssystems

Wählen Sie aus gängigen Betriebssystemen aus

Oracle unterstützt eine umfassende Auswahl von Betriebssystemen, die auf Microsoft Windows Server und Enterprise Linux basieren wie zum Beispiel Oracle Linux, CentOS, Ubuntu und viele andere. Oracle Autonomous Linux ist eine kostenlose, autonome Betriebssystemumgebung, die Komplexität und menschliche Fehler reduziert sowie Kosteneinsparungen, Sicherheit und die Verfügbarkeit für Oracle Cloud-Kunden erhöht.

Automatisierung der Betriebssystemverwaltung

Mit dem OCI OS Management-Service können Kunden Richtlinien für automatisierte Updates und Patches für ihre Betriebssystemumgebung festlegen.

Dokumentation anzeigen

Bring Your Own Image (BYOI)

Kunden können ihre eigenen Betriebssysteme und Hypervisors auf Oracle Compute-Instanzen ausführen und über Konfigurationsgrößen hinweg dasselbe Image verwenden.

Zugriff auf bereits verfügbare Software

Greifen Sie auf Software und Disk-Images zu

Der Oracle Cloud Marketplace bietet Software und Disk-Images für Data Science, Analysen, künstliche Intelligenz (KI) und maschinelle Lernmodelle (ML), um Kunden die Möglichkeit zu geben, schnell Erkenntnisse aus ihren Daten zu gewinnen.

NVIDIA GPU Cloud

Greifen Sie auf Hunderte von GPU-optimierten Anwendungen für Machine Learning, Deep Learning und High-Performance-Computing zu, die eine breite Palette von Branchen und Workloads abdecken. Weitere Informationen.

NVIDIA RTX Virtual Workstation

Mit NVIDIA RTX Virtual Workstation auf Oracle Cloud können Kunden hohe Workstation-Leistung überall dort bereitstellen, wo Mitarbeiter sie benötigen.

Microservices und Container

Containerregistrierung

Entwickler, die Anwendungen mithilfe von Containern erstellen, können einen hochverfügbaren, von Oracle verwalteten privaten Container-Registrierungsdienst zum Speichern und Teilen von Container-Images nutzen. Bewegen Sie Docker-Images per Push und Pull mit der Docker V2 API und der Standard-Docker-Befehlszeilenschnittstelle (CLI) in die Registrierung oder aus ihr heraus. Images können direkt als Teil einer Kubernetes-Bereitstellungsstrategie verwendet werden.

Oracle Functions

Functions as a Service (FaaS) für Entwickler zum Ausführen von Anwendungen ohne Server, die in Oracle Cloud Infrastructure, Oracle Cloud-Anwendungen und Dienste von Drittanbietern integriert sind. Sichern Sie sich Effizienz für Entwickler und Zugang zur Community des Open Source Fn-Projekts.

Sprechen Sie mit Oracle über die Beschleunigung Ihrer GPU-Workloads.

GPU-Instanzen – Anwendungsfälle

KI-Infrastruktur für Deep Learning-Training und Inferenzierung

Trainieren Sie KI-Modelle mit OCI Data Science, Bare-Metal-Instanzen und Cluster-Netzwerken basierend auf RDMA und NVIDIA-GPUs.


KI-Training und Inferenzierung Dieses Diagramm beschreibt zwei Phasen der Deep-Learning-Modellentwicklung: Modelltraining und Modellinferenzierung. Beim Modelltraining auf der linken Seite wird das untrainierte neuronale Netzwerk in einen Trainingsalgorithmus eingegeben, der durch OCI Data Science, Bare-Metal-Computing, lokalem Speicher und Cluster-Netzwerke ermöglicht wird. Das Ergebnis des Trainingsalgorithmus ist ein trainiertes Modell mit einer neuen Fähigkeit. Der Schritt zur Modellinferenzierung wird auf der rechten Seite beschrieben. Stellen Sie sich ein trainiertes Modell wie DALL-E 2 vor, das Texteingaben annehmen und Bilder generieren kann. Eine Texteingabe wird in das trainierte Modell eingespeist, und eine Bildausgabe des Modells wird bereitgestellt.

Virtual Desktop Infrastructure (VDI)

OCI Compute auf Basis von NVIDIA-GPUs bietet eine konsistent hohe Performance für VDI.


Virtual Desktop Infrastructure (VDI) Virtual Desktop Infrastructure

CFD und High Performance Computing mit GPU-Instanzen

OCI ermöglicht computergestütztes Engineering und Computational Fluid Dynamics für schnelle Vorhersagen der aerodynamischen Eigenschaften von Objekten.


CFD und High Performance Computing mit GPU-Instanzen CFD und High Performance Computing mit GPU-Instanzen

Erfahren Sie, wie OCI und NVIDIA KI-Modelle der nächsten Generation vorantreiben

Adept entwickelt mit Oracle und NVIDIA einen leistungsstarken KI-Teamkollegen für alle

„Mit der Skalierbarkeit und Rechenleistung der OCI- und NVIDIA-Technologie trainieren wir ein neuronales Netzwerk, um jede existierende Softwareanwendung, Website und API zu nutzen – aufbauend auf den Funktionen, die Softwarehersteller bereits geschaffen haben.“

David Luan, CEO
Adept

Wetteranalysen von National Grid mit Oracle Cloud um 40 % verbessert

„Mit Oracle Cloud Infrastructure können wir Zehntausende Modelle verarbeiten, um unsere Algorithmen enorm schnell zu trainieren. Es ist eine der besten Plattformen der Welt für die Art der Arbeit, die wir tun.“

James Kelloway, Energy Intelligence Manager
National Grid ESO

SoundHound wählt OCI, um sein enormes Unternehmenswachstum zu unterstützen

„Wir sehen diese Beziehung zu OCI als langfristig an. Wir freuen uns, die GPUs nutzen und damit unsere nächste Generation von Sprach-KI trainieren zu können. Wir glauben, dass OCI uns in Bezug auf zukünftiges Wachstum einiges bieten wird.“

James Hom, Cofounder und Vice President of Products
SoundHound

Softdrive bietet Workstations der nächsten Generation mit OCI Compute und NVIDIA A10

„Softdrive ist die Zukunft der Business-Computer. Auf dem Cloud-PC-Markt ist Performance alles. NVIDIA-GPUs auf OCI-Bare Metal-Servern haben das Erlebnis für unsere Kunden erheblich verbessert.“

Leonard Ivey, Mitbegründer
Softdrive

Twist Bioscience nutzt OCI und KI, um Proteininitiativen voranzutreiben

„Mit NVIDIA-GPUs, die auf OCI-Bare Metal-Instanzen ausgeführt werden, erlebt Twist erhebliche Performanceverbesserungen bei seinen ParaFold- und ESMFold-KI-Modellen.“

WEKA auf OCI liefert eine Leistung von 2 Terabyte pro Sekunde

„Oracle Cloud Infrastructure ist eine Hyperscaler-Cloud der Spitzenklasse, die XaaS-Compute- und Anwendungsservices für Oracle Kunden bereitstellt und viel mehr bietet, als Sie vielleicht erwarten, einschließlich KI/ML- und GPU-Workloads.“

Joel Kaufman
Senior Technical Marketing Manager, WEKA

Tango Eye bedient mit Oracle mehr Kunden zu geringeren Kosten

„Seit der Migration von AWS haben wir unseren Datenbestand vervierfacht und gleichzeitig unsere Kosten um 40 % gesenkt. Wir nutzen auf OCI 33 % weniger GPU-Compute-Kapazität als auf AWS.“

Suren Gounder, CEO
Tango Eye

Altair testet und führt über Nacht komplexe Simulationen auf OCI aus

„Die Integration mit der Cloud-Plattform von Oracle bietet uns hochmoderne GPU-Rechenressourcen, erstklassige Sicherheit und hochflexible VMware-Umgebungen. Letztendlich führt dies zu einer verbesserten Produktivität, einer optimierten Ressourcennutzung und einer schnelleren Markteinführung.“

Sam Mahalingam, Chief Technology Officer
Altair

13. November 2023

Ankündigung von Plänen, NVIDIA Grace Hopper Superchip auf OCI anzubieten

Sagar Rawal, Vice President, Oracle Cloud Infrastructure

Heute geben wir auf der SC23 unsere bevorstehenden Pläne bekannt, Oracle Cloud Infrastructure (OCI) Compute-Instanzen anzubieten, die auf dem NVIDIA GH200 Grace Hopper Superchip basieren. Der GH200 besteht aus einer Arm-CPU (Grace), die mit einer NVIDIA H100 Tensor Core GPU (Hopper) mit einem Speicher mit hoher Bandbreite von 576 GB verknüpft ist.

Vollständigen Beitrag lesen

Erste Schritte mit OCI Compute-Services

Mehr als 20 kostenlose Cloud-Services mit einer 30-tägigen Testversion für noch mehr

Oracle bietet ein Free Tier ohne zeitliche Begrenzung für eine Auswahl von mehr als 20 Services wie Compute, Storage und Autonomous Database an. Darüber hinaus erhalten Sie 300 USD in kostenlosen Credits, um zusätzliche Cloud-Services zu testen. Informieren Sie sich über die Einzelheiten und melden Sie sich noch heute für Ihr kostenloses Konto an.

  • Was ist im Oracle Cloud Free Tier enthalten?

    • AMD und Arm Compute-VMs
    • Insgesamt 200 GB Blockspeicher
    • 10 GB Objektspeicher
    • 2 x Autonomous Database mit jeweils 20 GB
    • 10 TB ausgehende Datenübertragung pro Monat
    • Mehr als 10 Always Free-Services
    • Kostenlose Credits im Wert von 300 US-Dollarfür 30 Tage für noch mehr

Mit einer praktischen Übung lernen

Der beste Weg zu lernen ist, es selbst auszuprobieren. Nutzen Sie unsere Tutorials und praktischen Übungen mit dem Oracle Cloud Free Tier, Ihrem eigenen Oracle Cloud-Mandanten oder für ausgewählte Lösungen in einer von Oracle bereitgestellten kostenlosen Laborumgebung.

  • HA-Anwendungen mit Load Balancern bereitstellen

    In dieser Übung stellen Sie Webserver auf zwei Compute-Instanzen in Oracle Cloud Infrastructure (OCI) bereit, die im High Availability-Modus mit einem Load Balancer konfiguriert sind.

    Diese Übung jetzt starten
  • Erste Schritte mit zentralen OCI-Services

    Entdecken Sie die grundlegenden OCI-Services, einschließlich Compute, Networking und Storage.

    Diese Übung jetzt starten
  • Bereitstellen von Oracle Container Engine for Kubernetes

    In dieser Übung stellen Sie ein Container Engine for Kubernetes-Cluster bereit, stellen eine Verbindung zu dem Cluster her und führen eine Beispielanwendung mit OCI CLI aus.

    Diese Übung jetzt starten
  • Tomcat Java-Anwendungen zu OCI migrieren

    Erfahren Sie, wie Tomcat zu Oracle Cloud Infrastructure migriert und eine Verbindung zu einer Autonomous Database hergestellt wird.

    Diese Übung jetzt starten

Weitere Ressourcen

Erfahren Sie mehr über präemptive Kapazität, burstfähige Instanzen, Autoscaling, GPUs, flexibles Computing und mehr.

Entdecken Sie mehr als 150 Best-Practice-Designs

Erfahren Sie, wie unsere Architekten und anderen Kunden eine Vielzahl von Workloads bereitstellen, von Unternehmensanwendungen bis hin zu HPC, von Microservices bis hin zu Data Lakes. Lernen Sie Best Practices kennen, hören Sie von anderen Kundenarchitekten in unserer Built & Deployed-Serie und erfahren Sie außerdem, wie Sie viele Workloads mit unserer „Click-to-Deployment“-Funktion einsetzen können – oder stellen Sie sie selbst mit unserem GitHub-Repository bereit.

Beliebte Architekturen

  • Apache Tomcat mit MySQL Database Service
  • Oracle Weblogic auf Kubernetes mit Jenkins
  • ML- und KI-Umgebungen
  • Tomcat on Arm mit Oracle Autonomous Database
  • Loganalyse mit ELK-Stack
  • HPC mit OpenFOAM

Erfahren Sie, welche Einsparungen mit OCI möglich sind.

Die Preisgestaltung für Oracle Cloud ist unkompliziert, mit weltweit konsequent niedrigen Tarifen und zahlreichen unterstützten Anwendungsfällen. Um den für Sie zutreffenden, niedrigen Tarif zu berechnen, gehen Sie zum Kostenrechner und konfigurieren Sie die Services entsprechend Ihrer Anforderungen.

Lernen Sie den Unterschied kennen:

  • 1/4 der Kosten für ausgehende Bandbreite
  • 3-mal besseres Preis-Leistungs-Verhältnis
  • Gleicher niedriger Preis in jeder Region
  • Niedrige Tarife ohne langfristige Verpflichtungen

Vertrieb kontaktieren

Möchten Sie mehr über Oracle Cloud Infrastructure erfahren? Einer unserer Experten wird Ihnen gerne helfen.

  • Sie können Fragen beantworten, z. B.

    • Wie sehen die ersten Schritte in Oracle Cloud aus?
    • Welche Arten von Workloads kann ich auf OCI ausführen?
    • Welche Servicetypen bietet OCI?