Een AI-chatbot implementeren op een flexibele rekeninstance van Ampere A1 met Minikube

Inleiding

Met deze workshop kunnen gebruikers eenvoudig een open-source AI-chatbot implementeren en gebruiken op een flexibele Ampere A1-compute-instance, waarbij gebruik wordt gemaakt van minikube en Kubernetes voor naadloze implementatie. De deelnemers werken binnen Oracle Linux en doen praktijkervaring op met het implementeren van compute-vormen zonder afhankelijk te zijn van Oracle Cloud Infrastructure (OCI) Kubernetes Engine, waardoor hun vaardigheid in implementatietechnieken wordt verbeterd.

-demonstratie

Vereisten en instellingen

1. Oracle Cloud account: aanmeldingspagina
2. OCI Networking: documentatie
3. minikube: documentatie
4. Kubernetes-documentatie
5. OCI Compute - documentatie

Aan de slag

• Praktische workshop met stapsgewijze instructies

Aanvullende bronnen

• OCI Marketplace image
• Blog: Maak kennis met Meta Llama 3 op OCI Ampere A1: een bewijs van modelinferentie op basis van CPU
• Blog: Generatieve AI democratiseren met inferentie op basis van CPU