HeatWave GenAI Özellikleri

Veritabanı içi büyük dil modelleri

Veritabanı içi büyük dil modelleri (LLM'ler) GenAI uygulamalarının geliştirilmesini büyük ölçüde kolaylaştırır. Jeneratif yapay zekadan hızlı bir şekilde yararlanabilirsiniz. Harici bir LLM seçmenize gerek yoktur ve çeşitli veri merkezlerinde entegrasyon karmaşıklığını, maliyetlerini veya harici bir LLM'nin kullanılabilirliğini göz önünde bulundurmanız gerekmez.

  • Örneğin, HeatWave Vector Store ile alma artırılmış oluşturma (RAG) gerçekleştirmek için içerik ve arama verilerini oluşturmaya veya özetlemeye yardımcı olmak için yerleşik LLM'leri kullanabilirsiniz.
  • Ayrıca, maliyetleri düşürmeye ve daha doğru sonuçları daha hızlı almaya yardımcı olmak için üretken yapay zekayı makine öğrenimi gibi diğer yerleşik HeatWave özellikleriyle birleştirebilirsiniz.
  • Yerleşik LLM'leri tüm OCI bölgelerinde, OCI Dedicated Region'da ve bulutlar arasında kullanabilir ve dağıtımlar arasında öngörülebilir performansla tutarlı sonuçlar elde edebilirsiniz.
  • Veritabanı içi LLM'leri kullanmak için herhangi bir ek maliyet yoktur. GPU sağlama ihtiyacını ortadan kaldırarak altyapı maliyetlerini azaltabilirsiniz. Ayrıca, maliyetleri daha da düşürmeye yardımcı olmak için sistem kaynakları optimize edilir (iş parçacığı sayısı, yığın boyutu ve segment boyutunun optimum yapılandırması).
  • Veritabanı içi LLM'ler ve HeatWave Chat, geliştiricilerin doğal dilde bağlamsal konuşmalar için önceden yapılandırılmış uygulamalar sunmalarına yardımcı olur. Harici LLM'lere abone olmaya veya GPU sağlamaya gerek yoktur.
  • HeatWave içinde yerel LLM yürütme, veri hareketiyle ilişkili riskleri en aza indirmeye yardımcı olur. LLM'ler, ince ayar yapmak yerine özel verileri kullanarak bilgilerini genişletmek için HeatWave Vector Store'dan yararlanabilir.
  • Oracle HeatWave GenAI, Cohere ve Meta'den önceden eğitilmiş, temel modellere erişmek için OCI Generative AI service ile entegredir.

HeatWave Vector Store

HeatWave Vector Store, LLM'lerin gücünü tescilli verilerinizle birleştirerek, yalnızca genel verilerde eğitilen modelleri kullanmaktan daha doğru ve bağlamla ilgili yanıtlar almanıza yardımcı olur. Vektör deposu, belgeleri PDF dahil olmak üzere çeşitli formatlarda alır ve bunları bir katıştırma modeli aracılığıyla oluşturulan katıştırmalar olarak depolar. Belirli bir kullanıcı sorgusu için vektör deposu, depolanan katıştırmalara ve katıştırılmış sorguya karşı benzerlik araması gerçekleştirerek en benzer dokümanları belirlemeye yardımcı olur. Bu dokümanlar, işiniz için daha bağlamsal bir yanıt sağlaması için LLM'ye verilen bilgi istemini artırmak için kullanılır.

  • HeatWave Vector Store, verileri ayrı bir vektör veritabanına taşımadan ve yapay zeka uzmanlığı olmadan iş belgelerinizle üretken yapay zekayı kullanmanıza olanak tanır.
  • Vektör deposundaki katıştırmaların oluşturulması, birden çok girdi dosyasını tüm küme düğümlerindeki birden çok iş parçasına paralel olarak işler. Sonuç olarak, vektör deposunu oluşturmak ve PDF, DOCX, HTML, TXT veya PPTX gibi çeşitli formatlarda yapılandırılmamış verileri almak çok hızlıdır ve küme boyutuyla ölçeklenir.
  • Vektör deposundaki özel dokümanları keşfetme ve alma ardışık düzeni, kullanıcıların yapılandırılmamış metin verilerini dönüştürme ve gömme oluşturma dahil olmak üzere otomatikleştirilmiş olduğundan yapay zeka uzmanlığı olmayan geliştiriciler ve analistlerin vektör deposundan yararlanması çok kolaylaşır.
  • Vektör deposunın nesne depolamada bulunması bunu büyük veri kümelerinde bile çok uygun maliyetli ve yüksek düzeyde ölçeklenebilir hale getirir. Vektör deposunu farklı uygulamalarla da kolayca paylaşabilirsiniz.
  • Veri dönüşümü, veri hareketini ortadan kaldırarak güvenlik risklerini azaltmaya yardımcı olan ve istemci kaynaklarına olan ihtiyacı ortadan kaldırarak maliyetleri azaltmaya yardımcı olan veritabanı içinde tamamlanır.

Esnek ve hızlı vektör işleme

Vektör işleme, HeatWave'in bellek içi ve ölçeklenebilir mimarisi ile hızlanır. HeatWave, vektör verilerini oluşturmak, işlemek ve yönetmek için standart SQL kullanmanıza olanak tanıyan yeni bir yerel VECTOR veri türünü destekler.

  • Vektörleri diğer SQL işleçleriyle birleştirebilirsiniz. Örneğin, farklı dokümanlarla birden çok tabloyu birleştiren ve tüm dokümanlarda benzerlik aramaları gerçekleştiren analitik sorgular çalıştırabilirsiniz.
  • Bellek içi gösterim ve ölçek genişletme mimarisi, vektör işlemenin 512 adede kadar HeatWave küme düğümünde paralel hale getirildiği ve bellek bant genişliğinde son derece hızlı ve hiçbir doğruluk kaybı olmadan yürütüldüğü anlamına gelir.

HeatWave Chat

Yeni HeatWave Chat arayüzü, doğal dil kullanarak vektör deposundaki tescilli belgelerle zenginleştirilmiş bağlamsal konuşmalar yapmanızı sağlar.

  • Doğal dili kullanarak MySQL Database'de ve nesne depolamada depolanan yapılandırılmamış verilerle etkileşim kurabilirsiniz. Soruların bağlamı, takip soruları ile insan benzeri bir konuşma sağlamak için korunur. HeatWave, sorulan soruların geçmişini, kaynak belgelerin alıntılarını ve LLM'ye yönlendirmeyi içeren bir bağlamı korur. Bu, bağlamsal bir görüşmeyi kolaylaştırır ve LLM tarafından oluşturulan yanıtların kaynağını doğrulamanızı sağlar. Bu bağlam HeatWave'de muhafaza edilir ve HeatWave kullanan tüm uygulamalar için kullanılabilir.
  • Entegre Lakehouse Navigator, MySQL Veritabanı ve nesne depolama alanında bulunan verileri görmenizi sağlar. Daha sonra seçilen verileri HeatWave Vector Store'a kolayca yükleyebilir ve LLM'ye bu belirli kaynaktan bilgi alması talimatını verebilirsiniz. Sonuç olarak, hem hızı hem de doğruluğu artırırken daha küçük bir veri kümesinde arama yaparak maliyetleri düşürebilirsiniz.
  • Tüm veritabanında arama yapabilir veya aramayı bir klasörle sınırlandırabilirsiniz.
  • HeatWave Chat üzerinden yerleşik veya OCI Generative AI hizmeti ile erişilebilen çeşitli LLM'ler seçilebilir.