使用 Minikube 在 Ampere A1 Flex Compute 執行處理上部署 AI 聊天機器人

簡介

此工作坊可讓使用者在 Ampere A1 彈性運算執行個體上輕鬆部署和使用開源 AI 聊天機器人，並利用 minikube 和 Kubernetes 進行無縫部署。在 Oracle Linux 內運作，參與者無須仰賴 Oracle Cloud Infrastructure (OCI) Kubernetes Engine，即可獲得在運算資源配置上部署的實機操作體驗，並提升其在部署技術的精通程度。

展示

先決條件與設定

1. Oracle Cloud 帳戶 — 註冊頁面
2. OCI Networking —文件
3. minikube - 文件
4. Kubernetes — 文件
5. OCI Compute —文件

開始使用

• 提供逐步指示的實作研討會

其他資源

• OCI Marketplace 影像
• 部落格：介紹 OCI Ampere A1 上的 Meta Llama 3：以 CPU 為基礎的模型推論教學
• 部落格：以 CPU 為基礎的推論民主化生成式 AI