Minikubeを使用したAmpere A1 Flexコンピュート・インスタンスへのAIチャットボットのデプロイ

概要

このワークショップでは、Ampere A1の柔軟なコンピュート・インスタンスにオープンソースのAIチャットボットを簡単に導入して使用し、minikubeとKubernetesを活用してシームレスな導入を実現します。Oracle Linux内で運用することで、参加者は、Oracle Cloud Infrastructure (OCI) Kubernetes Engineに依存することなく、コンピュート・シェイプへの導入を実践的に体験し、導入技術の習熟度を高めます。

デモ

前提条件および設定

1. Oracle Cloudアカウント—サインアップ・ページ
2. OCI Networking - ドキュメント
3. minikube - ドキュメント
4. Kubernetes - ドキュメント
5. OCI Compute - ドキュメント

ここから始めよう

• ステップバイステップの指示による実践的なワークショップ

その他のリソース

• OCI Marketplaceイメージ
• ブログ: OCI Ampere A1でのMeta Llama 3の紹介: CPUベースのモデル推論の証
• ブログ: CPUベースの推論による生成AIの民主化