HeatWave GenAIに関するFAQ

全般

HeatWave GenAIについて教えてください。

Oracle HeatWave GenAIは、データベース内の大規模言語モデル（LLM）、自動化されたデータベース内のベクトルストア、スケールアウト・ベクトルの処理、自然言語でのコンテキストに応じた対話機能など、自動化された統合的でセキュアな生成AIを提供し、AIの専門知識やさらなるコストなしに生成AIを活用できるようにします。

HeatWave GenAIの主要な機能を教えてください。

HeatWave GenAIの主要な機能は次のとおりでです。

• データベース内のLLM
• OCI生成AとAmazon Bedrockとの統合
• データベース内ベクトル・ストア
• 組み込みの自動生成
• スケールアウト・ベクトルの処理
• HeatWave Chat

HeatWaveでデータベース内モデルとして使用できるLLMを教えてください。

現在、HeatWaveでは、次のデータベース内LLMの定量化バージョンをご使用いただけます。

• llama3-8b-instruct-v1
• mistral-7b-instruct-v1

HeatWave Vector Storeの自動化の仕組みを教えてください。

単一のSQLコマンドにより、企業の非構造化コンテンツ用のベクトル・ストアを作成できます。オブジェクト・ストレージ内のドキュメントを見つけ出し、それらを解析し、高度に並列で最適化された方法で埋め込みを生成し、それらをベクトル・ストアに挿入するなど、ベクトル・ストアとベクトル埋め込みを作成するすべてのステップが自動化され、データベース内で実行されるため、HeatWave Vector Storeは効率的で使いやすくなっています。

HeatWaveはデータベース内LLMを実行するためにGPUを必要としますか。

HeatWaveは、コモディティ・ハードウェア上で実行されます。データベース内LLMはGPU上ではなく、CPU上で実行されます。その結果、コストを削減でき、さまざまなデータセンターでのLLMの可用性を心配する必要もありません。

HeatWave GenAIがデータ・セキュリティの向上を支援する仕組みを教えてください。

データベース内LLMとデータベース内ベクトル・ストアを使用すると、データがデータベースから離れることがないため、データ・セキュリティの向上を支援します。

HeatWave GenAIをAWSで実行することはできますか。

はい、HeatWave GenAIは、HeatWave MySQL、HeatWave Lakehouse、HeatWave AutoML、HeatWave Autopilotなどの他のHeatWave機能とともに、AWS上でネイティブに利用できます。

埋込みの生成で複数言語はサポートされていますか。

はい、27言語のテキスト・データに対して埋め込みデータを生成することができます。

プロンプトが表示できる言語を教えてください。

プロンプトは英語で発行できます。スペイン語やドイツ語など他の言語で発行されたプロンプトは、英語に翻訳することができます。

HeatWaveクラスタなしでベクトル検索を使用できますか。

いいえ、ベクトル検索はHeatWaveクラスタ内で実行されます。

HeatWave GenAIに使用すべきシェイプを教えてください。

HeatWaveは、MySQLノードで実行されます。本番環境では、MySQL.32シェイプのMySQLノードと、HeatWave.512GBシェイプを使用したHeatWaveノードを推奨します。開発/テスト環境では、より小さなMySQLシェイプを使用できます。サポートされているMySQLのシェイプはこちらでご確認いただけます。HeatWave GenAIでは、HeatWave.32GBシェイプはサポートされていません。

ベクトル・ストア作成でサポートされているドキュメントのタイプを教えてください。

サポートされている形式は、PDF、テキスト、PowerPoint、WordおよびHTMLです。

HeatWave GenAIのコストを教えてください。

HeatWave GenAIの使用には、HeatWaveクラスタのコスト以上の追加コストはかかりません。HeatWave GenAIで提供するデータベース内LLMや埋め込みモデルを追加費用なしで呼び出すことができます。また、OCI上のOCI生成AIおよびAWS上のAmazon Bedrock経由で利用可能な外部のLLMを呼び出すこともでき、その場合はそれらのサービスに料金が請求されます。

手持ちのデータをLLMのトレーニング・データに使用することはできますか。

いいえ、LLMは事前トレーニング済モデルです。お客様のデータはLLMのトレーニングには使用されません。

HeatWave GenAIはファインチューニングをサポートしていますか。

いいえ。HeatWaveで提供されるデータベース内LLMは、ファインチューニングできません。

独自のLLMや組み込みモデルを持ち込むことはできますか。

いいえ、独自のLLMや組み込みモデルを持ち込むことはできません。ただし、OCI上でHeatWave GenAIを実行する場合はOCI生成AIから、AWS上でHeatWave GenAIを実行する場合はAmazon Bedrockから、外部のLLMや組み込みモデルを呼び出すことができます。

データベース内のLLMは量子化されているため、予測される結果の品質について教えてください。

弊社のテストによると、HeatWaveベクトル・ストアに依存するユースケースでは、結果は量子化されていないLLMと同等です。モデルを簡単にテストして、結果のパフォーマンスと品質を評価できます。

埋込みの作成頻度を教えてください。

埋め込みを生成する必要があるのは1回のみで、その埋め込みはHeatWaveベクトル・ストアに保存されます。オブジェクト・ストレージ内の非構造化ドキュメントに変更があると、関連するベクトル埋め込みの更新が自動的にトリガーされます。

画像を含むドキュメントはHeatWave Vector Storeにインポートできますか。

はい、光学式文字認識サポートにより、HeatWave Vector Storeは、画像として保存されたスキャンしたコンテンツを、類似性検索などのために分析可能なテキストデータに変換することができます。