AI Solution

OCI 기반 NVIDIA Holoscan으로 AI Edge Workflow 배포 가속화

개요

NVIDIA Holoscan은 대기 시간이 짧은 워크로드를 위해 센서 데이터를 처리하고 GPU로 이동하는 데 도움이 되는 플랫폼입니다. 의료 이미징, 산업 모니터링 등 다양한 사용 사례를 지원합니다.

이 솔루션은 Holoscan을 Oracle Cloud Infrastructure(OCI)로 가져와 완전히 구성된 Holoscan 컨테이너를 사용하여 NVIDIA A10 GPU 지원 가상 머신을 배포하는 방법을 보여줍니다. 이 설정은 Terraform을 사용하여 필요한 모든 인프라를 프로비저닝합니다. Jupyter Notebook 서비스는 Holoscan 응용 프로그램을 구현하고 사용자 정의하는 데 사용됩니다.

이 솔루션은 수동 설정을 제거함으로써 개발자가 Holoscan을 사용하여 스트리밍 AI 파이프라인을 빠르게 구축할 수 있는 방법을 보여줍니다. 또한 다양한 AI 에지 시나리오에 대한 예시 워크플로우가 포함된 Docker 이미지를 제공합니다.

데모

데모: OCI 기반 NVIDIA Holoscan으로 AI Edge Workflow 배포 가속화(1:54)

필요 조건 및 설정

  1. Oracle Cloud 계정—등록 페이지
  2. NVIDIA NGC API 키