生成式 AI 的未來：企業不可不知的要點
強大雲端基礎架構與進階 GPU 的結合，協助我們推動 AI 技術突破。過去一年以來，生成式 AI 模型展現了令人驚嘆的能力。例如，生成式 AI 模型不僅能夠通過律師資格考試，而且分數百分位數更達到前 90%。此外，這些模型還能夠撰寫從歷史到哲學的學期論文，或用於查找資訊，而過去我們都只使用搜尋引擎。
現在，我們看到生成式 AI 能夠創建文字、生成 SQL 查詢、編寫程式碼、創造藝術品、提供產品支援……這些在幾年前似乎都是天方夜譚。這些成就激發了企業高階主管的想像力，他們相信生成式 AI 在協助企業提高生產力和營收方面有巨大的潛力。
企業真正需要從生成式 AI 中得到什麼？
企業需要的是能夠改善業務成果的生成式 AI 功能和使用案例。生成式 AI 利用根據企業資料和智慧財產進行微調或增強的模型，而只有熟悉企業模型才能提供輸出結果。
除了這項技術之外，企業還需要能夠滿足多種需求的合作夥伴，包括從設定基礎架構，到選擇、自訂和部署與業務應用程式整合的模型。數十年來，Oracle 致力於協助各行各業、各種規模的企業，從開發關鍵任務應用程式到提供創新解決方案，協助客戶在競爭中脫穎而出。
Oracle 深思熟慮如何透過生成式 AI 增強企業的業務流程，創造了涵蓋整個堆疊的端對端生成式 AI 體驗。我們的 AI 產品建立在高效能 AI 基礎架構之上，並可在整個 Oracle 堆疊中輕鬆整合 AI 技術，從 Oracle Database、Oracle Autonomous Database 和 MySQL HeatWave 等資料庫產品，到具有内嵌生成式 AI 功能的 ERP、HCM 和 CX 等 SaaS 應用程式。Oracle 的 AI 解決方案旨在提供無縫的體驗，而不是像需要親自動手完成的專案中的零碎零件或工具。
Oracle 不僅提供整合的無縫 AI 體驗，還可以在您需要的任何地方提供 AI 解決方案。您可以在 Oracle Cloud 中使用 Oracle Cloud Infrastructure (OCI) Generative AI ，並運用公有雲的優勢，視需要擴展解決方案、自訂模型，以及為企業建立專用模型端點。透過 OCI Dedicated Region，Oracle 還能夠在您的資料中心内提供生成式 AI 服務，讓您將生成式 AI 功能與內部部署資料和應用程式結合使用。
Wikibon 研究長 Dave Vellante表示：「Oracle 在企業級生成式 AI 方面採取完整的堆疊方法。Oracle 的價值始於堆疊的頂端，而不是晶片。透過在 Fusion SaaS 應用程式中提供整合的生成式 AI 功能，Oracle 可直接為客戶創造業務價值。這些應用程式由具有向量內嵌的自治資料庫提供支援，並在 OCI 上的高效能基礎架構上執行，或者透過 Dedicated Region 在内部環境執行。這些產品構成了高度差異化的企業 AI 策略，涵蓋了從立即可用的 RAG，各種微調模型，到整個整合堆疊中的 AI 技術。Oracle 的研究表明，2023 年是 AI 實驗年。藉助這些優勢，我們預計 2024 年將成為 AI 領域實現投資回報的一年。」
Oracle 如何提供這些功能？
如今，我們很高興宣布推出一系列創新成果，包括新服務和功能，協助您邁向生成式 AI 時代。
正式推出全新的 OCI Generative AI 服務
隨著 AI 策略的發展，Oracle 宣布正式推出 OCI Generative AI 服務。這個託管服務可將 LLM 緊密整合至各種企業使用案例中。
OCI Generative AI 服務現在支援 Meta 的 Llama 2 和 Cohere 模型，以及包含超過 100 種語言的多語言內嵌功能。Oracle 也提供一些改進功能，讓您更輕鬆地結合使用 LLM、LangChain 整合、端點管理及內容審查等功能。
OCI Generative AI 還包括更理想的 GPU 叢集管理體驗，包括對主機叢集提供多端點支援、透過調整叢集處理更多模型要求及提供端點分析。
OCI Generative AI 服務現在也為 Cohere 的 Command 52/6B 模型提供彈性微調，因此，企業有信心 AI 技術適用於其特定的業務環境。
透過 OCI Generative AI 服務，客戶能夠處理各種使用案例，包括：
- 客戶營運：根據客戶的產品套件、體驗和語言實現客戶服務自動化。
- 行銷：根據買家資料和購買歷史進行大規模個人化搜尋、推廣和客戶培養。
- 銷售：透過虛擬銷售代表，在業務交易期間為潛在客戶提供產品介紹
- 風險與法律：在多語言支援下，根據現有最佳實務更快地撰寫和草擬合約。
- 策略和財務：透過公共和私人來源大規模監控競爭對手和客戶的最新情況。
全新 OCI Generative AI Agents (測試版)
現在，我們也宣布推出 OCI Generative AI Agents 服務 的測試版。代理程式將使用者查詢轉換為任務，透過生成式 AI 元件 (搜尋工具、文件語料庫、LLM、回應產生等) 來回答查詢。OCI Generative AI Agents 系列中首個亮相的產品是 檢索增強生成 (retrieval augmented generation, RAG) 代理程式。該產品可透過 OCI OpenSearch 查詢內部資料，與 LLM 的通用知識相輔相成，從而提供符合情境的答案。使用者現在可以透過自然語言透明存取各種企業資料集，而不需要具備專業技能或瞭解資料的格式或儲存位置。
例如，當一般使用者要求 AI 代理程式提供與病假相關的人力資源政策摘要時，查詢會向模型發出訊號，以在內部文件語料庫中搜尋相關政策。然後，該模型使用 RAG 功能擷取相關段落，並使用它們為一般使用者產生人類語言回應，並提供指向相關來源文件的超連結。AI 代理程式以自然語言向一般使用者提供此回應。使用者可以繼續提出有關策略的問題，而 AI 代理程式將根據對話情境回答問題，從而提供準確且類似人類的體驗。在該服務反覆執行時，一般使用者將能夠提示 AI 代理程式採取進一步的操作，例如編輯原始文件或導覽 HR 系統進行更新。
OCI Generative AI Agents 的初始測試版支援 OpenSearch 來存取內部企業資料，即將推出的版本預計將支援更廣泛的 LLM，並能夠存取帶有 AI Vector Search 的 Oracle Database 23c 和帶有 Vector Store 的 MySQL HeatWave。使用者因此可建立自動與 Oracle 和第三方應用程式互動的代理程式，並指導代理程式根據查詢結果採取行動。客戶可以在此處註冊參加測試版方案。
全新 OCI Data Science AI Quick Actions 功能
OCI Data Science AI Quick Actions 是 OCI Data Science service 服務的一項無程式碼功能，可存取各種開源 LLM，包括 Meta、Mistral AI 等選項。正式推出後，此功能將提供更廣泛的存取權限，以獲取開源社群提供的功能。
OCI Data Science Quick Actions 讓使用者能夠存取精選模型，並使用自己的資料進行微調、評估和部署。此產品提供一個全面的生態系統，具有使用者友善的工作流程、整合遙測和可視化以及簡化的執行流程。
正式推出後，AI Quick Actions 將提供：
- 驗證和環境預檢查
- 精選的預測試模型清單，包括 LLM
- 精選的部署選項
- 搜尋及篩選模型，並可靈活地選擇符合客戶需求的模型
- 可輕鬆操作的介面，只需按幾下即可執行微調任務，並提供指導步驟
- 可直接從主控台監控微調任務
- 用於快速測試已部署模型的測試區功能
OCI 生成式 AI 整合至技術堆疊中：Oracle 資料庫和 Oracle Cloud 應用程式
Oracle Fusion Cloud Applications、Oracle NetSuite 和 Oracle Health 等產業應用程式將新增生成式 AI 功能，該功能由 OCI Generative AI 中的模型提供支援。初始使用案例著重於彙總與輔助撰寫，例如彙總績效考核結果、協助撰寫工作描述、協助建立目標、撰寫知識文章及產生相關客戶服務電子郵件。員工可以在日常辦公的軟體環境中使用這些 AI 功能，從而提高核心任務和工作流程方面的生產力和效率。
當然，Oracle 也將生成式 AI 功能嵌入其資料庫產品組合中。帶有 AI Vector Search 的 Oracle Database 23c 和帶有 Vector Store 的 MySQL HeatWave 皆提供 RAG 功能，協助使用者將內部資料與 LLM 結合起來，以根據提示產生更準確且與情境相關的答案。
此外，透過 Autonomous Database Select AI，客戶可以在與 Oracle Autonomous Database 互動時使用自然語言進行 LLM 查詢，而不需要編寫 SQL。因此，客戶能夠在開發應用程式的過程中更快地採用 AI。企業及其客戶可以使用與 Oracle Database AI Vector Search 結合的 Select AI 自然語言介面，更快、更直覺地瞭解自己的資料。例如，零售商可依需求取得自訂的庫存洞察，而受監組織的員工則可快速查詢大量法規以檢查合規性。
Oracle AI：即將推出的增強功能
除了發展生成式 AI 技術之外，Oracle 也將繼續改進現有的 AI 產品。Oracle 的策略是為企業提供多種選擇，確保您取得成功。因此，我們為您提供多項增強功能，包括：
- Oracle Digital Assistant：現在，您可以將 LLM 中的資料以及企業資料融入交談體驗中。Oracle Digital Assistant 結合資料庫資訊、企業知識文件和生成式 AI，可輕鬆實現自然語言對話。開發人員可以使用生成式 AI 功能，更快且更有效率地打造數位助理。
- OCI Language：透過自然語言處理，提高醫療資訊的洞察力。此 OCI Language 服務的新功能可協助客戶更妥善地處理醫療領域的語言。新模型將有助於辨識各種記錄中的醫學術語、關係和實體，例如臨床試驗記錄、病患進度記錄和電子健康記錄。
- Document Translation Experience：新增以檔案為基礎的文件翻譯功能，以支援各種格式 (Word、PPT、HTML、JSON 和 Excel)，確保內容保持完整，並在不同文件類型中進行翻譯。
- OCI Vision：新增 Facial Detection 功能，可辨識影像中的人臉和臉部特徵，並擴展 OCI Vision 用例的數量。此外，Vision 也支援以檔案為基礎的影片處理。
- OCI Speech：新增辨別技術，可將說話者的資訊內嵌至音訊轉錄內容中。此技術為 OCI Speech 錦上添花，可用於組織和分析人聲對話，並從中擷取有意義的資訊。此外，Speech 將支援即時轉錄，並可使用 Whisper 等開源模型。
- OCI Document Understanding：新增超過 300 種語言支援和模型改進。
- OCI Data Science：新增 Feature Store，這是一個用於管理資料科學團隊開發功能的中央儲存庫。Feature Store 提供一個統一的架構，以簡化的方式記錄、共用、儲存及提供服務。新增 Forecasting 運算子，讓客戶可以使用無代碼運算子，透過 OCI Data Science 服務利用 Oracle 專有的深度學習模型。
Oracle Generative AI 的差異化優勢
我之前提到，Oracle 全面思考了企業在成功導入生成式 AI 的真正需求，因此採取全方位策略來開發生成式 AI 技術。除此之外，我們還有一些核心原則來確保我們的新產品盡可能為您帶來價值：
有效且可自訂的模型，專為企業使用案例設計
我們的高效能且符合成本效益的模型以企業為中心，可用於許多使用案例，並可實現高效率的微調。我們也逐漸根據實際企業場景調整模型，並使用 Oracle 專有的知識和洞察，對大型語言模型進行專業訓練，使其更適合企業使用 —這些都可以使用先進的 GPU 和高效能叢集網路來完成。
在技術堆疊的每一層內嵌生成式 AI 功能和服務
Oracle 在基礎架構層、平台服務和業務應用程式中内嵌各種託管服務功能，可滿足您在生成式 AI 之旅的需求。採用 AI 技術看起來可能相當具有挑戰性，但如果您與一家業務範疇涵蓋從資料到應用程式的整個整合服務雲端供應商合作，那麽事情就簡單得多了。
重視資料管理、安全和治理的服務 — 企業級 AI 使用案例的重中之重
藉助 Oracle 技術，您可以將 AI 模型即時連線至相關資料，並檢索情境回應。此外，Oracle 持續協助確保客戶資料的隱私與安全。我們不會與任何第三方模型供應商共用資料。為了提高隱私與安全性，我們在不與任何其他客戶共用的託管 GPU 基礎架構上執行 LLM 專用部署，並為您的資料中心提供生成式 AI 服務。
Oracle AI 平台提供獨特且完整的高效能基礎架構堆疊、內建 AI 和 ML 技術以及資料庫、分析產品和 AI 服務，以及用於應用程式開發的生成式 AI 服務，而這只是一切發展的開始。
誠邀您試用 OCI Generative AI 或任何其他 Oracle AI 產品。如果您是 Oracle Cloud Infrastructure 新手，歡迎試用 Oracle Cloud Free Trial。您可以在 30 天內使用價值 300 美元的點數來免費試用服務。如需詳細資訊，請參閱下列資源：