AI 解決方案

在 OCI 上使用 NVIDIA Holoscan 加速 AI Edge 工作流程部署

簡介

NVIDIA Holoscan 是一個平台,可協助處理感測器資料並將其移至 GPU,以支援低延遲工作負載。它支援各種使用案例:醫學影像、工業監控等。

此解決方案將 Holoscan 帶入 Oracle Cloud Infrastructure (OCI),展示如何部署已啟用 NVIDIA A10 GPU 的虛擬機器,並搭配完整設定的 Holoscan 容器。此設定使用 Terraform 來佈建所有必要的基礎架構。Jupyter Notebook 服務可用於實作並自訂 Holoscan 應用程式。

透過免除手動設定,此解決方案展示開發人員如何使用 Holoscan 快速建置串流 AI 管線。它也提供 Docker 映像檔,並包含範例工作流程,適用於各種 AI 邊緣情境。

展示

示範:透過 OCI 上的 NVIDIA Holoscan 加速 AI 邊緣工作流程部署 (1:54)

先決條件與設定

  1. Oracle Cloud 帳戶 — 註冊頁面
  2. NVIDIA NGC API 金鑰