GPU-Instanzen
Oracle Cloud Infrastructure (OCI) Compute bietet Bare Metal- und Virtual-Machine-Instanzen, die von NVIDIA-GPUs für eine Vielzahl von Anwendungsfällen unterstützt werden, darunter Mainstream-Grafiken und -Videos sowie die anspruchsvollsten KI-Trainings- und HPC-Workloads. OCI zeichnet sich sowohl bei den Trainingszeiten als auch bei den Kosten durch seine ultraniedrige Latenz und der nahezu linearen Netzwerkperformance aus.
Oracle und NVIDIA liefern souveräne KI weltweit
Oracle und NVIDIA arbeiten zusammen, um beschleunigtes Computing und generative KI-Services bereitzustellen, die die digitale Souveränität und die Verwaltung geschützter nationaler und persönlicher Daten betreffen.
Skalierbarkeit
32.768
Maximale Anzahl von GPUs in einem OCI Supercluster1
Performance
3.200
Bis zu 3.200 GB/s RDMA-Cluster-Netzwerkbandbreite2
Mehrwert
220 %
GPUs für andere CSPs können bis zu 220 % teurer sein3
1: für Bare-Metal-Instanzen mit NVIDIA A100-GPUs, 2: für Bare-Metal-Instanzen mit NVIDIA H100-GPUs, 3: basierend auf On-Demand-Tarifen vom 16. Juni 2023
GPU-Instanzen – Wichtige Features
Die Remote Direct Memory Access-(RDMA-)Kommunikation zwischen Instanzen unterstützt große GPU-Cluster mit 3.200 Gbit/s Bandbreite und extrem niedriger Latenz.
High Performance-NVIDIA GPU-Instanzen
NVIDIA Tensor Core-GPUs
OCI bietet den größten Nutzen und die höchste Performance für Bare Metal- und VM-Compute-Instanzen, die von diesen NVIDIA-GPUs unterstützt werden: H100, L40S (in Kürze verfügbar), A100, A10, V100 und P100.
Bare Metal-Performance
Mit Bare Metal-Compute-Instanzen können Kunden hochleistungsfähige, latenzempfindliche und spezialisierte Workloads direkt auf Serverhardware ausführen – genau so, wie sie es On-Premises tun würden.
High Performance-Cluster-Networking
Das auf RDMA basierende Cluster-Networking von Oracle mit extrem niedriger Latenz bietet eine Latenz im Mikrosekundenbereich. Ohne Beeinträchtigung der Performance können Kunden Cluster mit mindestens 512 GPUs und OCI-Supercluster mit mehr als 512 GPUs hosten.
Wählen Sie aus einer Vielzahl von VM- und Bare Metal-Compute-Instanzen
Virtuelle Maschinen und Bare Metal
Passen Sie Ihre Workload an den optimalen Instanztyp an.
VM-Instanzen
Wählen Sie für VMs aus den NVIDIA Ampere-, Volta- und Pascal-GPUs mit 1 bis 4 Cores, 16 bis 64 GB GPU-Speicher und bis zu 480 GB lokal angeschlossenem Flashspeicher aus.
Bare Metal-Instanzen
Clustern Sie Bare Metal-Instanzen für HPC und KI-Training mit NVIDIA H100 oder A100 Tensor Core-GPUs mit 640 GB GPU-Speicher pro Knoten.
Reduzierte Netzwerk- und Speicherkosten
Einheitliche globale Preisgestaltung
Die Preisgestaltung von OCI ist in allen Regionen einfach und transparent und stellt sicher, dass die Cloud-Ausgaben vorhersehbar sind, unabhängig vom Standort, an dem Ihre Workloads ausgeführt werden.
Eine sichere Cloud-Infrastruktur
Isolierte Netzwerkvirtualisierung
Verhindern Sie mit isolierter Netzwerkvirtualisierung Angriffe auf Kundenmandanten. Ein grundlegendes Element der sicherheitsorientierten Architektur der Oracle Cloud Infrastructure ist, dass sie Malware mit einer speziell entwickelten SmartNIC aufhält sowie das Netzwerk isoliert und virtualisiert.
Oracle Cloud Infrastructure Identity and Access Management
Mithilfe einfach zu definierender Richtlinien, die an logischen Benutzer- und Ressourcengruppen ausgerichtet sind, können Sie nicht nur kontrollieren, wer Zugriff auf die Ressourcen der Oracle Cloud Infrastructure hat. Sie können auch festlegen, auf welche Ressourcen zugegriffen werden darf und über welche Zugriffsart das geschehen soll. Kunden können Identitäten und Zugriffe verwalten, indem sie dazu vorhandene Organisationshierarchien und Verbundverzeichnisdienste nutzen wie Microsoft, Okta oder andere SAML-Verzeichnisanbieter.
Vertrauenswürdige Hardware
Reduzieren Sie das Risiko Firmware-basierter Angriffe auf Kundenmandanten der Oracle Cloud Infrastructure durch eine vertrauenswürdige maßgeschneiderte und hardwarebasierte Technologie, mit der die Firmware jedes Mal gelöscht und neu installiert werden kann, wenn ein neuer Server bereitgestellt oder ein neues Kundenmandat eingerichtet wird.
Oracle Web Application Firewall
Schützen Sie Anwendungen vor böswilligem oder unerwünschtem Internetverkehr mit einer cloudbasierten und PCI-kompatiblen globalen Webanwendungs-Firewall (WAF). Durch die Kombination von Bedrohungsinformationen mit der konsistenten Durchsetzung von Regeln stärkt dieser Dienst Ihre Abwehr und schützt mit dem Internet verbundene Anwendungsserver.
Oracle Cloud Infrastructure Vault
Verwalten und kontrollieren Sie zentral die Verschlüsselungsschlüssel und geheimen Anmeldeinformationen, die zum Schutz von Unternehmensdaten und des Ressourcenzugriffs verwendet werden. Die Sicherheit für beide wird in einem FIPS (Federal Information Processing Standards) 140-2 Level 3-zertifiziertem Hardwaresicherheitsmodul (HSM) gespeichert.
Benutzer können die Berechtigungen für einzelne Schlüssel und Vaults mit OCI Identity and Access Management steuern und Änderungen des Lebenszyklus von Schlüsseln mit OCI Audit überwachen, um den erweiterten Compliance-Anforderungen gerecht zu werden.
Wahl des Betriebssystems
Wählen Sie aus gängigen Betriebssystemen aus
Oracle unterstützt eine umfassende Auswahl von Betriebssystemen, die auf Microsoft Windows Server und Enterprise Linux basieren wie zum Beispiel Oracle Linux, CentOS, Ubuntu und viele andere. Oracle Autonomous Linux ist eine kostenlose, autonome Betriebssystemumgebung, die Komplexität und menschliche Fehler reduziert sowie Kosteneinsparungen, Sicherheit und die Verfügbarkeit für Oracle Cloud-Kunden erhöht.
Automatisierung der Betriebssystemverwaltung
Mit dem OCI OS Management-Service können Kunden Richtlinien für automatisierte Updates und Patches für ihre Betriebssystemumgebung festlegen.
Bring Your Own Image (BYOI)
Kunden können ihre eigenen Betriebssysteme und Hypervisors auf Oracle Compute-Instanzen ausführen und über Konfigurationsgrößen hinweg dasselbe Image verwenden.
Zugriff auf bereits verfügbare Software
Greifen Sie auf Software und Disk-Images zu
Der Oracle Cloud Marketplace bietet Software und Disk-Images für Data Science, Analysen, künstliche Intelligenz (KI) und maschinelle Lernmodelle (ML), um Kunden die Möglichkeit zu geben, schnell Erkenntnisse aus ihren Daten zu gewinnen.
NVIDIA GPU Cloud
Greifen Sie auf Hunderte von GPU-optimierten Anwendungen für Machine Learning, Deep Learning und High-Performance-Computing zu, die eine breite Palette von Branchen und Workloads abdecken. Weitere Informationen.
NVIDIA RTX Virtual Workstation
Mit NVIDIA RTX Virtual Workstation auf Oracle Cloud können Kunden hohe Workstation-Leistung überall dort bereitstellen, wo Mitarbeiter sie benötigen.
Microservices und Container
Containerregistrierung
Entwickler, die Anwendungen mithilfe von Containern erstellen, können einen hochverfügbaren, von Oracle verwalteten privaten Container-Registrierungsdienst zum Speichern und Teilen von Container-Images nutzen. Bewegen Sie Docker-Images per Push und Pull mit der Docker V2 API und der Standard-Docker-Befehlszeilenschnittstelle (CLI) in die Registrierung oder aus ihr heraus. Images können direkt als Teil einer Kubernetes-Bereitstellungsstrategie verwendet werden.
Oracle Functions
Functions as a Service (FaaS) für Entwickler zum Ausführen von Anwendungen ohne Server, die in Oracle Cloud Infrastructure, Oracle Cloud-Anwendungen und Dienste von Drittanbietern integriert sind. Sichern Sie sich Effizienz für Entwickler und Zugang zur Community des Open Source Fn-Projekts.
GPU-Instanzen – Anwendungsfälle
KI-Infrastruktur für Deep Learning-Training und Inferenzierung
Trainieren Sie KI-Modelle mit OCI Data Science, Bare-Metal-Instanzen und Cluster-Netzwerken basierend auf RDMA und NVIDIA-GPUs.
Dieses Diagramm beschreibt zwei Phasen der Deep-Learning-Modellentwicklung: Modelltraining und Modellinferenzierung. Beim Modelltraining auf der linken Seite wird das untrainierte neuronale Netzwerk in einen Trainingsalgorithmus eingegeben, der durch OCI Data Science, Bare-Metal-Computing, lokalem Speicher und Cluster-Netzwerke ermöglicht wird. Das Ergebnis des Trainingsalgorithmus ist ein trainiertes Modell mit einer neuen Fähigkeit. Der Schritt zur Modellinferenzierung wird auf der rechten Seite beschrieben. Stellen Sie sich ein trainiertes Modell wie DALL-E 2 vor, das Texteingaben annehmen und Bilder generieren kann. Eine Texteingabe wird in das trainierte Modell eingespeist, und eine Bildausgabe des Modells wird bereitgestellt.
Virtual Desktop Infrastructure (VDI)
OCI Compute auf Basis von NVIDIA-GPUs bietet eine konsistent hohe Performance für VDI.
Virtual Desktop Infrastructure
CFD und High Performance Computing mit GPU-Instanzen
OCI ermöglicht computergestütztes Engineering und Computational Fluid Dynamics für schnelle Vorhersagen der aerodynamischen Eigenschaften von Objekten.
CFD und High Performance Computing mit GPU-Instanzen
