Beschleunigen Sie das KI-Edge-Workflow-Deployment mit NVIDIA Holoscan auf OCI
Einführung
NVIDIA Holoscan ist eine Plattform, die Sensordaten verarbeitet und auf eine GPU für Workloads mit geringer Latenz verlagert. Es unterstützt eine breite Palette von Anwendungsfällen: medizinische Bildgebung, industrielle Überwachung und vieles mehr.
Diese Lösung bringt Holoscan zu Oracle Cloud Infrastructure (OCI) und zeigt, wie eine NVIDIA A10-GPU-fähige virtuelle Maschine mit einem vollständig konfigurierten Holoscan-Container bereitgestellt wird. Beim Setup wird Terraform verwendet, um die gesamte erforderliche Infrastruktur bereitzustellen. Ein Jupyter Notebook-Service wird verwendet, um eine Holoscan-Anwendung zu implementieren und anzupassen.
Durch die Eliminierung der manuellen Einrichtung zeigt diese Lösung, wie Entwickler mit Holoscan schnell Streaming-KI-Pipelines erstellen können. Außerdem bietet es ein Docker-Image mit Beispielworkflows für eine Vielzahl von KI-Edge-Szenarios.
Demo
Voraussetzungen und Einrichtung
- Oracle Cloud-Account – Anmeldeseite
- NVIDIA NGC-API-Schlüssel