Ajuste LLMs com eficiência usando a interface de teste da OCI Generative AI

Introdução

Quando trabalhamos com grandes modelos de linguagem (LLMs), normalmente temos o modelo respondendo aos dados de treinamento fornecidos. No entanto, o treinamento desses modelos pode ser difícil, pois eles usam muitos recursos, como GPUs e energia.

Felizmente, a otimização de modelos avançou para permitir uma versão de "treinamento menor" com menos dados, por meio de um processo chamado ajuste fino.

A solução de amostra específica abaixo fornece um método para ajustar um LLM usando o playground de IA generativa da Oracle Cloud Infrastructure (OCI), uma interface no console da OCI.

Demonstração

Pré-requisitos e configuração

1. Conta da Oracle Cloud - página de inscrição
2. Primeiros passos com a documentação da OCI Generative AI
3. Ajuste fino da OCI Generative AI - documentação para ajuste fino da OCI Generative AI
4. Playground da OCI Generative AI - documentação para playground da OCI Generative AI
5. Python 3.10
6. Gerenciador de pacotes de código-fonte aberto — Conda

Conheça

• Etapas detalhadas e código de amostra em GitHub