Minikube를 사용하여 Ampere A1 Flex Compute 인스턴스에 AI 챗봇 배포

개요

이 워크숍을 통해 사용자는 원활한 배포를 위해 미니큐브와 Kubernetes를 활용하여 Ampere A1 유연한 컴퓨트 인스턴스에 오픈 소스 AI 챗봇을 손쉽게 배포하고 사용할 수 있습니다. Oracle Linux 내에서 운영되는 참가자들은 OCI(Oracle Cloud Infrastructure) Kubernetes Engine에 의존하지 않고 컴퓨트 구성에 배포하는 실습 경험을 쌓아 배포 기술에 대한 숙련도를 높일 수 있습니다.

데모

선수 과정 및 설정

1. Oracle Cloud 계정—사인업 페이지
2. OCI Networking—설명서
3. minikube—설명서
4. Kubernetes—설명서
5. OCI 컴퓨팅 - 설명서

시작하기

• 단계별 지침이 포함된 실습 워크샵

추가 리소스

• OCI Marketplace 이미지
• 블로그: OCI Ampere의 Meta Llama 3 소개 A1: CPU 기반 모델 추론에 대한 증거
• 블로그: CPU 기반 추론으로 생성형 AI 대중화