HeatWave GenAI

Você pode usar os LLMs no banco de dados para ajudar a gerar ou resumir o conteúdo com base em documentos não estruturados. Os usuários podem fazer perguntas em linguagem natural por meio de aplicações, e o LLM processará a solicitação e entregará o conteúdo.

Um usuário está fazendo uma pergunta em linguagem natural: “Você pode gerar um resumo deste briefing da solução?”. O grande modelo de linguagem (LLM) processa essa entrada e gera o resumo como saída.

Combine o poder da IA generativa com outros recursos integrados do HeatWave, como o machine learning, para ajudar a reduzir custos e obter resultados mais precisos com mais rapidez. Neste exemplo, uma empresa de manufatura faz isso para manutenção preditiva. Os engenheiros podem usar o Oracle HeatWave AutoML para ajudar a gerar automaticamente um relatório de logs de produção anômalos e o HeatWave GenAI ajuda a determinar rapidamente a causa raiz do problema simplesmente fazendo uma pergunta em linguagem natural, em vez de analisar manualmente os logs.

Um usuário pergunta via HeatWave Chat “Qual é o maior problema deste conjunto de logs? Forneça um resumo em duas frases.". Primeiro, o HeatWave AutoML produz uma lista filtrada de logs anômalos com base em todos os logs de produção que ele ingere continuamente. Em seguida, o HeatWave Vector Store fornece contexto adicional ao LLM de acordo com a base de conhecimento de logs. O LLM usa esse prompt aumentado, produz um relatório e fornece ao usuário uma resposta detalhada explicando o problema em linguagem natural.

Os chatbots podem usar o RAG para, por exemplo, ajudar a responder às perguntas dos funcionários sobre as políticas internas da empresa. Os documentos internos que detalham as políticas são armazenados como incorporações no HeatWave Vector Store. Para uma determinada consulta do usuário, o armazenamento de vetores ajuda a identificar os documentos mais semelhantes executando uma pesquisa de similaridade com as incorporações armazenadas. Esses documentos são usados para aumentar o prompt dado ao LLM para que ele forneça uma resposta precisa.

Um usuário pergunta via HeatWave Chat “Quais laptops posso encomendar e qual é o processo?”. O HeatWave processa a questão acessando documentos de política interna armazenados no HeatWave Vector Store. Em seguida, ele fornece um prompt aumentado para o LLM que pode gerar a resposta “Aqui está a lista de fornecedores aprovados e as etapas a serem seguidas para fazer o pedido”.

Os desenvolvedores podem criar aplicações aproveitando o poder combinado do machine learning integrado, da IA generativa e do armazenamento de vetores para fornecer recomendações personalizadas. Neste exemplo, a aplicação usa o sistema de recomendação HeatWave AutoML para recomendar restaurantes com base nas preferências do usuário ou no que ele pediu anteriormente. Com o HeatWave Vector Store, a aplicação também pode pesquisar os cardápios dos restaurantes em formato PDF para sugerir pratos específicos, proporcionando maior valor aos clientes.

Um usuário pergunta via HeatWave Chat “Quais pratos veganos você sugere para mim hoje?”. Primeiro, o sistema de recomendação HeatWave AutoML sugere uma lista de restaurantes com base no que o usuário já pediu anteriormente. Em seguida, o HeatWave Vector Store fornece um prompt aumentado para o LLM com base nos menus dos restaurantes que ele abriga. O LLM pode então gerar uma recomendação personalizada de pratos em linguagem natural.

A pesquisa de similaridade se concentra em encontrar conteúdo relacionado com base na semântica. A pesquisa de similaridade vai além das simples pesquisas de palavras-chave, considerando o significado subjacente em vez de pesquisar apenas as tags aplicadas. Neste exemplo, um advogado quer identificar rapidamente uma cláusula potencialmente problemática em contratos.

Um advogado pergunta via HeatWave Chat “Esta frase aparece em quais contratos?”. O HeatWave Vector Store faz uma pesquisa de similaridade e fornece a resposta “Esta frase aparece nos 6 contratos a seguir”.