KI-Chatbot mit Minikube auf einer Flex-Compute-Instanz von Ampere A1 bereitstellen

Einführung

In diesem Workshop können Benutzer einen Open-Source-KI-Chatbot einfach auf einer flexiblen Compute-Instanz von Ampere A1 bereitstellen und verwenden. Dabei können sie Minikube und Kubernetes für eine nahtlose Bereitstellung nutzen. Im Rahmen von Oracle Linux sammeln die Teilnehmer praktische Erfahrungen beim Deployment auf Compute-Ausprägungen, ohne sich auf Oracle Cloud Infrastructure (OCI) Kubernetes Engine zu verlassen und ihre Kenntnisse in Deployment-Techniken zu verbessern.

Demo

Voraussetzungen und Setup

1. Oracle Cloud-Account – Anmeldeseite
2. OCI Networking – Dokumentation
3. minikube – Dokumentation
4. Kubernetes – Dokumentation
5. OCI Compute – Dokumentation

Erste Schritte

• Hands-on Workshop mit schrittweisen Anweisungen

Weitere Ressourcen

• OCI Marketplace-Image
• Blog: Einführung von Meta Llama 3 auf OCI Ampere A1: Ein Testament zur CPU-basierten Modellinferenz
• Blog: Demokratisierung generativer KI mit CPU-basierter Inferenz