Accelera la distribuzione del flusso di lavoro AI Edge con NVIDIA Holoscan su OCI

Introduzione

NVIDIA Holoscan è una piattaforma che consente di elaborare i dati dei sensori e di spostarli in una GPU per carichi di lavoro a bassa latenza. Supporta una vasta gamma di casi d'uso: imaging medico, monitoraggio industriale e altro ancora.

Questa soluzione porta Holoscan su Oracle Cloud Infrastructure (OCI), mostrando come distribuire una virtual machine abilitata per GPU NVIDIA A10 con un contenitore Holoscan completamente configurato. L'impostazione utilizza Terraform per eseguire il provisioning di tutta l'infrastruttura necessaria. Un servizio Jupyter Notebook viene utilizzato per implementare e personalizzare un'applicazione Holoscan.

Eliminando l'impostazione manuale, questa soluzione dimostra come gli sviluppatori possono creare rapidamente pipeline AI in streaming utilizzando Holoscan. Fornisce inoltre un'immagine Docker, completa di flussi di lavoro di esempio, per una vasta gamma di scenari edge AI.

Demo

Prerequisiti e impostazione

1. Account Oracle Cloud: pagina di iscrizione
2. Chiave API NVIDIA NGC

Inizia

• Passi dettagliati e codice di esempio su GitHub

Ulteriori risorse

• NVIDIA Holoscan
• Esempi di NVIDIA Holoscan SDK v3.2.0
• Resource Manager OCI
• Distribuire lo stack Terraform