AI 解决方案

在 OCI 上使用 NVIDIA Holoscan 加速 AI Edge 工作流部署

介绍

NVIDIA Holoscan 是一个平台,可帮助处理传感器数据并将其迁移到 GPU,以实现低延迟工作负载。它支持广泛的用例:医学成像,工业监控等。

此解决方案将 Holoscan 引入 Oracle Cloud Infrastructure (OCI),展示如何使用完全配置的 Holoscan 容器部署支持 NVIDIA A10 GPU 的虚拟机。该设置使用 Terraform 预配所有必需的基础结构。Jupyter Notebook 服务用于实现和定制 Holoscan 应用程序。

通过消除手动设置,该解决方案演示了开发人员如何使用 Holoscan 快速构建流式 AI 管道。它还为各种 AI 边缘场景提供了一个 Docker 映像,并包含示例工作流。

演示

演示:使用基于 OCI 的 NVIDIA Holoscan 加速 AI Edge 工作流部署 (1:54)

先决条件和设置

  1. Oracle Cloud 账户 - 注册页面
  2. NVIDIA NGC API 密钥

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国 。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。