Accelera la distribuzione del flusso di lavoro AI Edge con NVIDIA Holoscan su OCI
Introduzione
NVIDIA Holoscan è una piattaforma che aiuta a elaborare i dati dei sensori e a trasferirli a una GPU per carichi di lavoro a bassa latenza. Supporta un'ampia gamma di casi d'uso: imaging medicale, monitoraggio industriale e altro ancora.
Questa soluzione porta Holoscan su Oracle Cloud Infrastructure (OCI), mostrando come distribuire una macchina virtuale abilitata per GPU NVIDIA A10 con un container Holoscan completamente configurato. La configurazione utilizza Terraform per eseguire il provisioning di tutta l'infrastruttura richiesta. Un servizio Jupyter Notebook viene utilizzato per implementare e personalizzare un'applicazione Holoscan.
Eliminando la configurazione manuale, questa soluzione dimostra come gli sviluppatori possano creare rapidamente pipeline di IA in streaming utilizzando Holoscan. Fornisce inoltre un'immagine Docker, completa di workflow di esempio, per una varietà di scenari AI all'edge.
Demo
Prerequisiti e impostazione
- Account Oracle Cloud: pagina di iscrizione
- Chiave API NVIDIA NGC