如何在業務中擴展 AI

您的業務將受到人工智慧的影響。為了讓人工智慧為企業帶來效益，而非帶來反效果，企業需要將計畫從試點階段推進到日常營運中。

走在前沿的企業已經開始領先：他們利用人工智慧來提高應收應付帳款流程的速度和準確性、總結法律簡報及其他研究，並在關鍵任務中增添一層保障，如解讀 X 光片。這些領先企業運用人工智慧來偵測數百萬筆金融交易中的詐欺行為，並在忙碌的倉庫和高要求的製造業環境中迅速做出決策。這些企業使用人工智慧聊天機器人處理越來越複雜的客服電話，並引導銷售人員為每個客戶打造最佳後續步驟。

而這一切都只是一切發展的開始。

然而，在每一個成功背後，企業都需要經過一個擴展過程，將工具與人員整合，並進行必要的技術與文化調整，才能使人工智慧在現實世界中發揮作用。

以下將探討為業務擴大 AI 所面臨的挑戰。

什麼是可擴展 AI

可擴展的 AI 能夠使用機器學習 (ML) 演算法或生成式 AI 服務，以跟上業務需求的步調完成日常工作。它需要演算法和生成式模型具備所需的基礎架構和資料量，才能以所需的速度和規模運作。此外，可擴展的 AI 需要來自業務中許多部分的資料，這些資料已整合且完整，能夠為演算法提供衍生所需結果所需的資訊。

同樣重要的是，員工需要能夠將 AI 輸出的結果應用於工作中。當所有這些要求到位時，可擴展的 AI 可幫助企業營運更加迅速、安全、準確、個人化，甚至能激發創意。

重點精華

• 擴展 AI 可以大幅改善各種業務運作。
• 成功的關鍵在於資料管理、資料科學和業務流程管理等多個領域的協同運作。這些通常被歸納為機器學習營運 (MLOps) 的一部分。
• MLOps 可以包含建置和訓練 ML 模型、訓練目前的演算法或大型語言模型 (LLM)，以達成業務目標。
• 企業需要考慮資料安全性、資料隱私權和法規報告，因為他們將 AI 帶入日常營運中。

為何很難擴展 AI？

調整 AI 需要投資和承諾。它需要新技能和技術、重型運算能力，以及組織運作方式的變化。擴展 AI 超越建置和訓練模型；這表示將它們帶入大規模執行的生產級應用程式，並為業務使用者提供監控和報告功能。

在擴展 AI 的過程中，克服六大挑戰：

1. 資料：資料是 AI 的命脈。它指的是用於訓練 ML 演算法的資訊，以及這些演算法掃描來傳遞輸出的資訊。ML 模型使用的資料有許多形式。它可以位於關聯式資料庫的列和欄中，也可以位於文字文件、影像、影片或社交媒體中。
   
   通常獲取、整理和分析龐大的資料集需要資料管理方面的專業知識，並且需要對工具和雲端服務進行投資，例如可擴展的雲端資料湖。資料的安全性和隱私是任何擴展 AI 的主要考量。資料必須受到保護，避免外部和內部威脅，與任何公司儲存的機密資料相同。AI 營運團隊還有一項額外的責任：確保訓練資料中的機密資訊不會出現在 AI 輸出中。


2. 流程：擴展 AI 是一個反覆的過程，涉及至少三個群體：
   
   
   1. 每個相關業務營運中的專家，包括客戶服務、運輸物流、產品設計、放射學或會計。
   2. IT 團隊負責整合、保護和標準化營運資料，並整合所需的運算能力和網絡。
   3. 資料科學團隊負責建立 ML 功能、選擇模型並調整參數，直到準備好部署並擴展 AI。您的業務營運專家將與資料科學家合作，確保 AI 輸出符合準則。各團隊應瞭解檢索增強生成 (RAG) 技術，該技術提供了一種基於組織資料優化 LLM 輸出的方式，而不需要修改基礎模型。


3. 工具：用於擴展 AI 的工具可分為三類：資料科學家用來構建機器學習模型的工具、IT 團隊用來管理資料並支援運算密集型演算法的工具，以及協助業務人員在日常任務中使用 AI 輸出的工具。建置單一機器學習模型可能需要十多個專門的系統，這些系統通常由資料科學實踐者從各種開源和專有工具中組合而成。
   
   最近，科技公司將資料科學、資料管理和 AI 操作工具組織成整合式平台，以擴展 AI。這項工作稱為機器學習作業 (或 MLOps)，其中包括用於建置、維護及監控 AI 的工具，以及向內部利益相關者和監管機構報告其輸出結果。


4. 人才：設計、訓練和部署 ML 模型所需的專業知識需要時間，因此很難找到具有深厚 AI 知識的人才，而且聘用成本很高。因此，到目前為止，建立 AI 平台的主要是願意為 AI 專業知識支付高昂的成本的科技巨頭和技術領先的大型企業。
   
   現在，MLOps 平台可作為雲端服務使用，而 LLM 則可透過 API 呼叫使用。這將為更多企業打開 AI 採用的大門。雖然仍需要資料管理和資料科學專業知識，但透過雲端供應商提供的 AI 服務可能會面臨僱用深度 AI 模型建立專業知識之人員的壓力。


5. 範圍：當企業準備將 AI 從試驗階段進入全面應用時，該如何確定擴展規模呢？理想情況下，企業 AI 計畫的規模要能夠在營運中帶來顯著變化，無論是縮短運送時間、提升客戶體驗，還是其他可衡量的成果。但在 AI 擴展初期，應避免過於複雜或過度依賴利潤的計畫，否則在遇到困難時，企業可能會選擇放棄，而非冒險承受中斷風險。可以從一個小範圍的領域開始，這樣就算有些小挫折，也不會造成太大損失。隨著組織內部專業知識與信心的增長，AI 計畫的範圍將會變得更加宏大。


6. 時間：根據 CompTIA ，有將近 80% 的 AI 專案永遠不會超越概念驗證，而成功的專案則需要 3 到 36 個月 (視範圍和複雜性而定)。這段時間主要用於選擇與部署模型，以及在受控環境中監控 AI 輸出。
   
   企業決策者還需要考慮提供大規模 AI 系統所需資料所需的時間和精力。資料科學家和 IT 團隊必須透過機器學習演算法取得、整合、儲存、準備及串流資料，並監控輸出。越來越多的開源工具、程式庫以及自動化軟體和雲端服務清單，有助於加速此週期。隨著此領域的成熟發展，相關工具也會逐步完善。

為何可擴展 AI 很重要？

雖然擴展 AI 很困難，但企業領導者相信，這些挑戰和前期成本最終將會被企業獲得的收益所抵消。根據 McKinsey，到 2030 年，AI 將為全球經濟貢獻約 13 兆美元。有幾個原因。首先，為了充分利用 AI，更多公司將利用「數位轉型」專案，在數位經濟中利用其資料變得更創新且更具競爭力。AI 將加強這些競爭優勢，並帶來進一步的創新。已經擴展 AI 的企業見證了多方面的好處，包括更高的客戶滿意度與員工生產力，還有更有效率地運用資產，如船隻、卡車、製造設備和倉庫。

如何在業務中擴展 AI

將 AI 引入充滿挑戰的商業運營世界可能令人畏懼，但對於合適的專案來說，這是值得的。從資料科學開始，您可以根據業務目標量身打造機器學習演算法程式庫。如果您使用 API 存取及訓練供應商 (例如 OpenAI 和 Cohere) 所提供的大型語言模型，這也是很好的建議。

下一步是尋找和擷取將訓練 AI 的資料集。它們可能由內部或外部資料組成，或兩者混合。無論是客戶服務、財務、法律還是任何其他部門，AI 都能集結利益相關者和倡導者。這些擁護者將與資料科學團隊合作，因此訓練人員瞭解目標業務職能中人員的「日常生活」。這些倡導者隨後將與同事或合作夥伴合作，協助準備 AI 驅動的流程，並推動在推出時廣泛採用。當機器學習模型、資料流程和業務流程都準備就緒時，就該在業務中擴展 AI 了。

擴展 AI 的 7 個最佳實踐

在業務流程中擴大使用 AI 有許多挑戰。下列是協助您邁向成功的最佳實務：

1. 聚焦於資料生命週期

在資料科學家建立 ML 模型之前，企業必須先有一個整合和更新資料來源的資料結構，並提供安全、標準化的格式。

2. 標準化並簡化 MLOps

選擇適合您資料科學和 ML 作業團隊技能集的 MLOps 平台，並符合您的 IT 基礎架構或主要雲端提供者的需求。

3. 建立協同合作的多領域 AI 團隊

人工智慧計畫橫跨學科和部門。將整個企業的利益關係人整合在一起以提供協助。

4. 選擇可能成功的初始專案

將 AI 帶入任何業務流程是一項複雜的工作。從一個能夠迅速取得成果的專案開始，並為未來更具雄心的計畫鋪路。請考慮建立卓越 AI 中心來確保成功。

5. 治理與報告性的計畫

選擇內建治理的資料管理、資料科學和業務營運工具。瞭解相關的安全性與隱私權法規，並在您的流程中建立規範與可報告性。

6. 追蹤端對端模型

尋找可協助您追蹤 AI 輸出的速度和成本，以及背後推理及其對一般使用者價值的功能。

7. 使用正確的工具

為了在業務中擴展 AI，您需要一套工具，讓資料科學家能夠輕鬆地與 IT 工程師合作，並讓這兩個團隊能夠與業務人員合作處理 AI 治理和合規問題。雲端資料科學平台可讓資料科學家為團隊提供建置、訓練、部署及管理機器學習模型和記事本的互動式運算環境，結合程式碼執行與資料視覺化和文字評論。關鍵在於提供訓練人員可以實驗模型、開發模型及調整使用規模的空間。

透過 Oracle 擴展 AI

當您要在業務中擴展 AI 時，Oracle Cloud Infrastructure (OCI) 就是一個聰明的選擇。它可以幫助您從對公司來說最有意義的方式獲得 AI 的優勢，並能隨需求擴展。您會找到一系列 SaaS 應用程式，其中內建 ML 模型和可用的 AI 服務，以及同級最佳基礎架構，可大規模建置、訓練和部署 ML 模型。Oracle 也能讓您輕鬆存取以 Cohere 先進的 LLM 為基礎的生成式 AI 模型。

對資料科學家而言，完全管理的資料科學平台可協助使用 Python 和其他開源工具建置、訓練、部署及管理機器學習模型。Oracle 提供 JupyterLab 型基礎架構來實驗模型、開發模型，以及使用 NVIDIA GPU 和分散式訓練縱向擴展模型訓練。雲端非常適合訓練生成式 AI，包括對話式應用程式和擴散模型。

透過 OCI，您可以將模型投入生產環境，並具備 MLOps 功能 (例如自動化管線、模型部署及模型監控) 保持在最新狀態。立即聯絡 Oracle ，或免費試用這些服務。

消費者級 AI 可能吸引了大部分的關注，但企業正積極推動 AI 和 ML 的應用。隨著技術平台和業務流程的迅速崛起，越來越多的企業能夠擴大 AI 的應用，讓更多的專案從概念驗證轉向全面生產。雖然企業仍然面臨挑戰，但成功克服這些挑戰的企業將實現更高的效率、準確性、資料安全性、個人化和創新。

如何擴展 AI 常見問題

如何擴展 AI 產品？

擴展 AI 產品涉及團隊合作，需要來自整個組織的利益相關者的付出，包括資料科學專家、資料管理和 IT 專業人士，以及對 AI 產品將應用的業務流程有深入瞭解的人。通常，MLOps 平台可協助將此群組整合在一起，以設計、訓練、部署及微調 ML 演算法。

如何擴展 AI 新創公司？

擴展 AI 新創公司需要在早期做出正確的決策，包括資料獲取、ML 模型或 LLM 的選擇，以及運算基礎架構 (無論是內部部署還是雲端部署) 的規劃。新創公司需要採購大量 GPU 來訓練大型資料集，並以效能和可靠性執行複雜的 AI 基礎架構，以及時提供成果。

AI 系統的擴展性為何？

可擴展的 AI 系統具有足夠的速度和準確性，能夠應對業務營運中的複雜環境。這些系統超越了實驗性或概念性的驗證階段，並且能夠擴展以服務更多的使用者。

什麼是 AI 調整？

規模調整是提供給任何可成長以滿足業務需求的運算密集服務。如果某個應用程式需要更多運算資源，則支援該應用程式的 IT 基礎架構必須增加才能提供。在某些情況下，擴展也意指不需要基礎架構時縮小規模。例如，某些應用程式的使用量會出現季節性或季度性高峰。可擴展的雲端基礎架構可以根據這些需求進行擴展，然後縮小規模，讓公司不用為基礎架構付費。