Beschleunigen Sie das KI-Edge-Workflow-Deployment mit NVIDIA Holoscan auf OCI

Einführung

NVIDIA Holoscan ist eine Plattform, die Sensordaten verarbeitet und zur GPU für Workloads mit geringer Latenz überträgt. Es unterstützt eine Vielzahl von Anwendungsfällen: medizinische Bildgebung, industrielle Überwachung und mehr.

Diese Lösung bringt Holoscan auf Oracle Cloud Infrastructure (OCI) und zeigt, wie eine virtuelle Maschine mit NVIDIA A10 GPU-Unterstützung und einem vollständig konfigurierten Holoscan-Container bereitgestellt wird. Die Einrichtung verwendet Terraform, um die gesamte erforderliche Infrastruktur bereitzustellen. Ein Jupyter Notebook-Service wird verwendet, um eine Holoscan-Anwendung zu implementieren und anzupassen.

Durch den Wegfall der manuellen Einrichtung zeigt diese Lösung, wie Entwickler mit Holoscan schnell Streaming-KI-Pipelines erstellen können. Außerdem bietet es ein Docker-Image mit Beispiel-Workflows für verschiedene KI-Edge-Szenarien.

Demo

Voraussetzungen und Setup

1. Oracle Cloud-Account – Anmeldeseite
2. NVIDIA NGC-API-Schlüssel

Erste Schritte

• Detaillierte Schritte und Beispielcode auf GitHub

Weitere Ressourcen

• NVIDIA Holoscan
• NVIDIA Holoscan SDK v3.2.0-Beispiele
• OCI Resource Manager
• Den Terraform-Stack bereitstellen