HeatWave GenAI Sık Sorulan Sorular

Genel

HeatWave GenAI nedir?

Oracle HeatWave GenAI, veritabanı içi büyük dil modelleri (LLM'ler), otomatik, veritabanı içi vektör deposu, ölçek genişletme vektör işleme ve doğal dilde bağlamsal konuşmalara sahip olma kabiliyeti ile entegre ve otomatikleştirilmiş güvenli üretken yapay zeka sağlayarak yapay zeka uzmanlığı, veri hareketi veya ek maliyet olmaksızın üretken yapay zekadan yararlanmanızı sağlar.

HeatWave GenAI'nin temel özellikleri nelerdir?

HeatWave GenAI'nin temel özellikleri şunlardır

• Veritabanı içi LLM'ler
• OCI Generative AI ve Amazon Bedrock ile entegrasyon
• Veritabanı içi vektör deposu
• Otomatik gömme oluşturma
• Ölçeklenebilir vektör işleme
• HeatWave Chat

HeatWave'de hangi LLM'ler veritabanı içi modeller olarak kullanılabilir?

Aşağıdaki veritabanı içi LLM'lerin kuantize edilmiş versiyonları şu anda HeatWave'de mevcuttur:

• llama3-8b-instruct-v1
• mistral-7b-instruct-v1

HeatWave Vector Store nasıl otomatikleştirilir?

Tek bir SQL komutuyla kurumsal yapılandırılmamış içerik için bir vektör deposu oluşturabilirsiniz. Bir vektör deposu ve vektör gömme oluşturma adımlarının tümü, dokümanları nesne depolamada keşfetmek, ayrıştırmak, son derece paralel ve optimize edilmiş bir şekilde katıştırmalar oluşturmak ve bunları vektör deposuna eklemek, HeatWave Vector Store'u verimli ve kullanımı kolay hale getirmek dahil olmak üzere veritabanında otomatikleştirilir ve yürütülür.

HeatWave veritabanı içi LLM'leri çalıştırmak için GPU gerektirir mi?

HeatWave, emtia donanımı üzerinde çalışır. Veritabanı içi LLM'ler GPU'larda çalışmaz; CPU'larda çalışır. Sonuç olarak, maliyetleri azaltabilir ve çeşitli veri merkezlerindeki LLM'lerin kullanılabilirliği konusunda endişelenmenize gerek kalmaz.

HeatWave GenAI veri güvenliğini artırmaya nasıl yardımcı olur?

Veritabanı içi LLM'ler ve bir veritabanı içi vektör deposu kullanıldığında, veriler veritabanından çıkmaz ve veri güvenliğinin artırılmasına yardımcı olur.

HeatWave GenAI'ı AWS üzerinde çalıştırabilir miyim?

Evet, HeatWave GenAI, HeatWave MySQL, HeatWave Lakehouse, HeatWave AutoML ve HeatWave Autopilot gibi diğer HeatWave özellikleriyle birlikte AWS'de yerel olarak kullanılabilir.

Gömme oluşturmak için birden fazla dil destekleniyor mu?

Evet, 27 dilde metin verileri için gömme oluşturulabilir.

İstemleri yayınlamak için hangi diller desteklenir?

İstemler İngilizce olarak verilebilir. İspanyolca ve Almanca gibi diğer dillerde verilen istemler İngilizceye çevrilebilir.

HeatWave kümesi olmadan vektör aramayı kullanabilir miyim?

Hayır, vektör araması HeatWave kümesi içinde gerçekleştirilir.

HeatWave GenAI için hangi şekiller kullanılmalıdır?

HeatWave bir MySQL düğümü üzerinde çalışır. Bir üretim ortamı için MySQL.32 şekline sahip bir MySQL düğümü ve HeatWave.512GB şeklini kullanan HeatWave düğümleri öneririz. Geliştirme/test için daha küçük bir MySQL şekli kullanılabilir. Desteklenen MySQL şekillerini burada gözden geçirebilirsiniz. HeatWave GenAI için HeatWave.32GB şekli desteklenmez.

Vektör deposu oluşturmak için ne tür belgeler desteklenir?

PDF, metin, PowerPoint, Word ve HTML desteklenen formatlardır.

HeatWave GenAI'nin maliyeti nedir?

HeatWave GenAI'yi kullanmak için HeatWave kümesinin maliyetinin ötesinde ek bir maliyet yoktur. HeatWave GenAI ile sağlanan veritabanı içi LLM'leri ve gömme modellerini hiçbir ek ücret ödemeden çağırabilirsiniz. Ayrıca, OCI ve AWS'deki Amazon Bedrock üzerinde OCI Generative AI aracılığıyla sunulan harici LLM'leri çağırabilir ve daha sonra bu hizmetler için ücretlendirilirsiniz.

Verilerim LLM'leri eğitmek için kullanılıyor mu?

Hayır, LLM'ler önceden eğitilmiş modellerdir. Verileriniz LLM'leri eğitmek için kullanılmaz.

HeatWave GenAI ince ayar yapılmasını destekliyor mu?

Hayır, HeatWave ile sağlanan veritabanı içi LLM'ler ince ayar yapılamaz.

Kendi LLM'lerimi veya gömme modellerimi getirebilir miyim?

Hayır, kendi LLM'lerinizi veya gömme modellerinizi getiremezsiniz. Ancak, OCI üzerinde HeatWave GenAI ve AWS'de HeatWave GenAI çalıştırırken OCI Generative AI aracılığıyla sunulan harici LLM'leri çağırabilir veya Amazon Bedrock aracılığıyla modelleri gömebilirsiniz.

Veritabanı içi LLM'ler ölçüldüğünden beklenen sonuç kalitesi nedir?

Testlerimize göre sonuçlar, HeatWave Vector Store'a bağlı kullanım senaryoları için niceliksel olmayan LLM'lerle karşılaştırılabilir. Sonuçların performansını ve kalitesini değerlendirmek için modelleri kolayca test edebilirsiniz.

Gömmeleri ne sıklıkla oluşturmam gerekir?

Yerleştirmeleri yalnızca bir kez oluşturmanız gerekir ve bunlar HeatWave Vector Store'da saklanacaktır. Nesne depolama alanındaki yapılandırılmamış belgelerde yapılan değişiklikler, ilişkili vektör katıştırmalarında güncellemeleri otomatik olarak tetikleyecektir.

Görüntü içeren dokümanlar HeatWave Vector Store'a aktarılabilir mi?

Evet, optik karakter tanıma desteği, HeatWave Vector Store'un görüntü olarak kaydedilen taranmış içeriği, örneğin benzerlik aramaları yapmak için analiz edilebilecek metin verilerine dönüştürmesini sağlar.