Beschleunigen Sie KI überall – mit Oracle Cloud und NVIDIA
Erstellen, trainieren und implementieren Sie KI mit Oracle Cloud Infrastructure (OCI) und NVIDIA. Von groß angelegten GPU-Clustern bis hin zu NVIDIA Vera CPUs für agentenbasierte Workloads und beschleunigte Unternehmenssoftware unterstützen Oracle und NVIDIA Sie dabei, KI mit Infrastruktur und Services, die auf Performance, Skalierbarkeit und Flexibilität ausgelegt sind, in den Produktivbetrieb zu bringen.
Oracle und NVIDIA erweitern KI-Infrastruktur und Enterprise-KI-Funktionen.
- Entdecken Sie NVIDIA Vera Rubin NVL72 auf OCI
Entdecken Sie Infrastruktur für anspruchsvolle KI-Trainings- und Inferenz-Workloads.
- Unterstützen Sie Agenten mit NVIDIA Vera-CPUs
Stellen Sie den Services, die KI-Agenten am Laufen halten, dedizierte CPU-Kapazität bereit.
- Oracle stellt Tausende von NVIDIA Blackwell-GPUs bereit
Oracle hat die erste Generation flüssigkeitsgekühlter NVIDIA GB200 NVL72-Racks implementiert und optimiert. Diese Racks sind ab sofort über NVIDIA DGX Cloud und Oracle Cloud Infrastructure (OCI) verfügbar.
Unterstützen Sie die Arbeit hinter jedem KI-Agenten
KI-Agenten sind auf mehr als nur Modellinferenz angewiesen. Tool-Aufrufe, Codeausführung, Abruf und Orchestrierung sind alle auf CPUs angewiesen. NVIDIA Vera CPUs auf OCI bieten dedizierte Rechenleistung für diese Workloads – mit Bare-Metal- und virtuellen Instanzoptionen, die keine Rubin GPUs erfordern.
-
Agenten-Orchestrierung
Koordinieren Sie Sitzungen, stellen Sie Tools bereit und verarbeiten Sie Ergebnisse.
-
Sandbox-Ausführung
Führen Sie generierten Code, Tests, Simulationen und Reward-Logik aus.
-
Abruf und Analyse
Unterstützen Sie Workloads, die von Arbeitsspeicherkapazität und Speicherbandbreite abhängen.
KI-Infrastrukturlösungen
-
Lösungsarchitektur
Nutzen Sie die Leistungsfähigkeit von NVIDIA-GPUs und fortschrittlichen Deep-Learning-Frameworks mit sofort einsatzbereiter Automatisierung.
Hands-on Lab -
Lösungsarchitektur
Erfahren Sie, wie Sie mit Agent Workflow auf OCI verschiedene KI-Modelle mithilfe von sofort einsatzbereiter Automatisierung sicher konfigurieren können.
Hands-on Lab -
Lösungsarchitektur
Führen Sie einen einfachen RAG-fähigen Chatbot in OKE mit NVIDIA NIM, Qdrant, Gradio und einsatzbereiter Automatisierung aus.
Hands-on Lab -
Lösungsarchitektur
Nutzen Sie die Leistungsfähigkeit von NVIDIA-GPUs und NIMs, um praktische Erfahrungen bei der Bereitstellung skalierbarer Lösungen zur Betrugserkennung mit sofort einsatzbereiter Automatisierung zu sammeln.
Hands-on Lab -
Lösungsarchitektur
Automatisieren Sie die Bereitstellung von Morpheus auf OCI mithilfe von NVIDIA RAPIDS, Triton und anderen Tools.
Hands-on Lab -
KI-Lösungen
Stellen Sie mithilfe von OCI Object Storage und NVIDIA GPUs NVIDIA NIM auf der OCI Kubernetes Engine bereit, um sich skalierbare, effiziente Inferenz mit optimaler Performance zu sichern.
Lernpfad -
KI-Lösungen
Lernen Sie, große Sprachmodelle (LLMs) auf OCI bereitzustellen, beschleunigt durch NVIDIA-GPUs mit Bare-Metal-Maschinen.
Lernpfad -
KI-Lösungen
Erfahren Sie, wie Sie verteiltes Multinode-Training mit NVIDIA-Grafikprozessoren auf OCI für effizientes Deep-Neural-Network-Training durchführen.
Lernpfad
NVIDIA AI Enterprise auf OCI Marketplace
-
Datenvorbereitung
Beschleunigen Sie Data-Science-Workflows mit dem NVIDIA RAPIDS Accelerator in Oracle Cloud Infrastructure (OCI) Data Flow.
-
Modelltraining und -anpassung
Erstellen und optimieren Sie generative KI-Modelle mit NVIDIA DGX™ Cloud auf OCI.
Entdecken Sie die Möglichkeiten für Modelltraining und -anpassung
-
Inferenz (RAG)
Verbessern Sie Genauigkeit und Relevanz von LLM-Ausgaben, indem Sie RAG-Pipelines mit NVIDIA NeMo Retriever, Oracle Database 23ai und Oracle Cloud Infrastructure Kubernetes Engine (OKE) aufbauen.
-
Inferenz
Beschleunigen und skalieren Sie die Modellauslieferung mit NVIDIA NIM-Microservices und OKE.
Bringen Sie NVIDIA-Beschleunigung in die Enterprise-KI
Erweitern Sie beschleunigtes Computing auf Inferenz, Datenbankindizierung und Geschäftsoptimierung.
NVIDIA Dynamo auf OKE
Unterstützen Sie disaggregierte Inferenz für containerisierte KI-Workloads.
NVIDIA cuVS
Beschleunigen Sie die Indizierung mit Oracle Vector Index Service.
NVIDIA cuopt
Beschleunigte Optimierung mit OCI Enterprise AI anwenden.
Jetzt allgemein verfügbar: Der größte und schnellste KI-Supercomputer in der Cloud
Wir freuen uns, die allgemeine Verfügbarkeit des Oracle Cloud Infrastructure Superclusters mit NVIDIA H200 Tensor Core GPUs bekannt zu geben.
Kunden die Möglichkeit geben, KI-Innovationen zu optimieren
-
Vereinfachte Abläufe für agentenorientierte KI
Bereitstellung einer ganzheitlichen KI-Plattform für agentenbasierte KI – intelligente Systeme, die eigenständig wahrnehmen, denken und handeln. Mit NVIDIA AI Enterprise, das nativ über die OCI-Konsole verfügbar ist, erhalten Unternehmen schnellen und einfachen Zugang zu über 160 KI-Tools für Training und Inferenz – inklusive direktem Abrechnungs- und Supportzugang.
Für eine schnelle KI-Inferenz bieten die NVIDIA NIM-Inferenzendpunkte im OCI Marketplace eine skalierbare und unkomplizierte Lösung zur Bereitstellung KI-gestützter Assistenten, Copiloten und Echtzeitanwendungen.
-
Branchenführende KI-Infrastruktur
Bleiben Sie an der Spitze der generativen KI-Innovation – mit bis zu 260 exaFLOPS Leistung durch Hopper-GPUs und 2,4 ZettaFLOPS mit Blackwell-GPUs. Mit diesen OCI-Superclustern können Sie Billionen-Parameter-Modelle schneller trainieren und in großem Maßstab bereitstellen.
Nutzen Sie OCI Compute mit Bare-Metal-Instanzen ohne Virtualisierungs-Overhead, ultraschnellem RDMA-Cluster-Netzwerk, speicherstarkem Dateisystem im Petabyte-Bereich und Orchestrierungstools wie der OCI Kubernetes Engine, um KI-Workloads in jeder Größenordnung zu beschleunigen.
-
KI überall unterstützen
Optimieren Sie die Inferenz und führen Sie KI überall mit NVIDIA-Technologien in der verteilten Cloud von OCI aus. Setzen Sie NVIDIA L4 GPUs auf einem Edge-Gerät ein und skalieren Sie bis zur größten Supercomputing-Infrastruktur in der Public Cloud – oder erweitern Sie Ihre KI-Infrastruktur im eigenen Data Center.
Regierungen und regulierte Branchen können aus flexiblen Bereitstellungsmodellen wählen, um selbst höchste Anforderungen an Datenhoheit und Compliance zu erfüllen. NVIDIA AI Enterprise auf OCI beschleunigt die Entwicklung und den produktionsreifen Einsatz von KI und ist standortübergreifend in der verteilten Cloud-Umgebung von OCI verfügbar.
Ausgewählte KI-Partner und -Kunden
Integration von KI in Anwendungen mithilfe großer Sprachmodelle von Cohere
Oracle hat mit Cohere zusammengearbeitet, um die generativen KI-Services von Oracle Cloud Infrastructure zu unterstützen. Cohere nutzt die Performance von OCI, um seine Modelle zu trainieren, und arbeitet mit Oracle zusammen, um Unternehmen KI-Technologie bereitzustellen.
Modal Labs
Mit Modal Labs können Sie Daten-/KI-Jobs in der Cloud ausführen, indem Sie nur ein paar Zeilen Python schreiben. Kunden nutzen Modal, um GenAI-Modelle in großem Maßstab bereitzustellen, LLM-Modelle zu optimieren, Proteinfaltungssimulationen durchzuführen und vieles mehr. Modal Labs verwendet aufgrund der unschlagbaren Kombination aus Preis und Leistung die Bare-Metal-A10-Instanzen von Oracle.
Skalierung des medizinischen Wissens und Schaffung zuverlässiger KI zum Nutzen der Gesundheit aller Menschen
Evidium mit Hauptsitz in San Francisco, Kalifornien, ist ein Startup für Gesundheitstechnologie, das eine referenzierte KI-Plattform geschaffen hat, um Gesundheitsorganisationen fundierte und vertrauenswürdige KI zu bieten. Zur Beschleunigung des Modelltrainings setzt das Unternehmen GPUs auf OCI für seine vielfältige Produktlinie ein.
Fireworks AI
Fireworks AI wurde von Führungskräften von PyTorch und Meta gegründet und bietet die schnellste und hochwertigste Plattform für generative KI-Modelle zur Beschleunigung von Produktinnovationen und -umwälzungen. Das Unternehmen entschied sich für Oracle Cloud Infrastructure, um Inferenzierungs- und Schulungs-Workloads auszuführen.
GenAI-gestützte Suche und Chats mit Ihren eigenen Daten
Legionintel ist eine generative KI-Integrationsplattform auf OCI, der die sichersten Organisationen der Welt vertrauen. Das Unternehmen bietet qualitativ hochwertige Ergebnisse, eine schnellere Wertschöpfung und eine nahtlose Integration in Anwendungen, die als „Source of Truth“ dienen.
Altair testet und führt über Nacht komplexe Simulationen auf OCI aus
Altair verfolgt das Ziel, unternehmerische Entscheidungen durch die Verbindung von Simulation, High Performance Computing und künstlicher Intelligenz zu optimieren. Um seine fortschrittlichen Designanwendungen auf höchstem Niveau zu betreiben, entwickelt und betreibt das Unternehmen diese auf der leistungsstarken Oracle Cloud Infrastructure.
Erste Schritte mit der OCI AI-Infrastruktur, die von NVIDIA beschleunigt wird
Weitere Informationen zu Oracle und NVIDIA AI-Services
Oracle und NVIDIA erweitern den Zugang zu beschleunigter KI-Datenverarbeitung in der Cloud, damit Unternehmen ihre komplexesten geschäftlichen Herausforderungen lösen können.
Verwandte Informationen
- Oracle ermöglicht souveräne KI überall – mit NVIDIA-beschleunigtem Computing
- OCI AI Blueprints: Von „Zero to Hero“ bei der Bereitstellung von KI-Workloads auf OCI
- First Principles: Einblicke in die Zettascale-OCI-Supercluster für KI der nächsten Generation
- Jetzt allgemein verfügbar: Der größte, schnellste KI-Supercomputer in der Cloud
- Agentenbasierter Workflow auf OCI mit NVIDIA NIMs
- MLPerf Training Benchmark 4.0-Ergebnisse auf OCI-GPU-Superclustern
- GPU-basierte Assets auf OCI AI Solutions Hub
- Beschleunigung von KI-Workloads mit OCI Supercluster (PDF)
- Aktuelle Ankündigungen von Oracle und NVIDIA
- Allgemeine Verfügbarkeit von OCI Compute mit Vera-CPUs
- NVIDIA Vera CPUs auf OCI
- OCI erhält die NVIDIA Exemplar Cloud-Validierung