Distribuisci un chatbot AI su un'istanza Ampere A1 Flex Compute utilizzando Minikube

Introduzione

Questo workshop consente agli utenti di distribuire e utilizzare facilmente un chatbot AI open source su un'istanza di computazione flessibile Ampere A1, sfruttando minikube e Kubernetes per una distribuzione trasparente. Operando all'interno di Oracle Linux, i partecipanti acquisiscono un'esperienza pratica nell'implementazione di forme di computazione senza fare affidamento su Oracle Cloud Infrastructure (OCI) Kubernetes Engine, migliorando le loro competenze nelle tecniche di distribuzione.

Demo

Prerequisiti e impostazione

1. Account Oracle Cloud: pagina di registrazione
2. OCI Networking: documentazione
3. minikube-documentazione
4. Kubernetes: documentazione
5. OCI Compute: documentazione

Inizia

• Workshop pratico con istruzioni dettagliate

Ulteriori risorse

• Immagine Marketplace OCI
• Blog: Presentazione di Meta Llama 3 su OCI Ampere A1: un testamento alla Model Inference basata sulla CPU
• Blog: Democratizzare l'AI generativa con l'inferenza basata sulla CPU