AI 解决方案

在 OCI 上使用 NVIDIA Holoscan 加速 AI Edge 工作流部署

介绍

NVIDIA Holoscan 是一个平台,可帮助处理传感器数据并将其移至 GPU,以支持低延迟工作负载。它支持广泛的使用场景:医学影像、工业监控等。

该解决方案将 Holoscan 引入 Oracle Cloud Infrastructure (OCI),展示如何部署支持 NVIDIA A10 GPU 的虚拟机,并配备完全配置的 Holoscan 容器。该设置使用 Terraform 预置所有必需的基础设施。Jupyter Notebook 服务用于实施和定制 Holoscan 应用程序。

通过消除手动设置,此解决方案展示了开发人员如何使用 Holoscan 快速构建流式 AI 管道。它还提供一个 Docker 映像,其中包含适用于各种 AI 边缘场景的示例工作流。

演示

演示:利用 OCI 上的 NVIDIA Holoscan 加速 AI 边缘工作流部署 (1:54)

先决条件和设置

  1. Oracle Cloud 账户 — 注册页面
  2. NVIDIA NGC API 密钥

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。