什麼是代理式 AI？

代理式 AI 是一種能在極少的人為監督下運作，並根據過往表現以及對完成任務所需條件的現況評估做出自主決策的 AI 系統。代理式 AI 系統可以檢視其達成目標的進度現況，進而做出適當的決策，例如增加新的步驟，或是向人類或其他 AI 系統尋求協助。

有別於傳統 AI (通常是指非生成式 AI 服務)，代理式 AI 不會受制於人類的查詢與監督，因此不會被鎖定在輸入/輸出模型中。相反地，這項技術具備足夠的自主性，使系統能夠採取複雜的步驟來達成目標，僅在必要時才向人類確認。

另一種思考代理式 AI 的方式，是以主管與技術人員進行比較。專用 AI 代理程式經過訓練，能根據外部輸入執行固定任務，就像被指派工作的專業技術人員。代理式 AI 則能部署各種 AI 技術 (包括生成式 AI)，同時做出自主決策，就像主管決定完成專案需要哪些技術人員一樣。使用這個類比，主管可以與同儕協作，並採納現場技術人員的反饋、最佳化工作流程、要求更多資訊，並視需要部署額外資源。

重點精華

代理式 AI 是指能夠自主決定如何達成目標，隨後執行該決策的 AI 系統。
代理式 AI 系統可以與 AI 代理程式及人類協作，以設定並達成目標。
代理式 AI 系統通常會使用各種工具 (包括 AI 模型、專用 AI 代理程式及協調式 AI 服務) 來達成策略目標。
雖然代理式 AI 系統具備比傳統 AI 更複雜且獨立的行動能力，但也可能需要顯著更多的資源。

代理式 AI 解析

代理式 AI 代表 AI 發展的第三波浪潮。現代 AI 的首波爆發見證了多項技術的問世，包括推薦引擎與自動填入文字等，這些技術會透過分析大型資料集來辨識統計相關性，並計算出可能的結果。第二波浪潮發生在近期，新型演算法、更強大的運算能力及資料可用性，讓 AI 具備了生成創意內容的能力，包括文字、影像與音樂。

AI 的第三波浪潮則聚焦於在選擇的框架下，將不同元素與能力整合在一起的能力。區分「AI 代理程式」與「代理式 AI 系統」的不同十分重要。代理程式可以存取預測式、生成式及其他 AI 功能。代理程式不會等待使用者提示 (例如要求生成式輸出)，而是被程式設計為朝特定目標邁進。因此，代理式 AI 會分析通往目標的路徑，並自主決定完成任務的最佳方式。代理程式還可以參考過去完成任務的記錄，以改善結果。

憑藉處理並統整大量資料的能力，AI 代理程式有潛力完成人類無法完成的研究。由於能夠在無提示的情況下做出選擇，代理程式可以發掘更多資訊並吸收反饋，進而成為出色的協作夥伴，無論是用於工作、愛好或個人任務。

代理式 AI 系統則能將個別 AI 代理程式與其他適當系統或工具編織成一個有凝聚力的整體，因此規模更大。例如，AI 代理程式可以處理客戶申訴。隨後，代理式 AI 系統可以利用該資料，協助產品設計師與行銷領導者根據客戶行為模式調整其產品。

因此，企業應該提出問題並非「代理式 AI 能為我們做什麼」，而是「我們應該從何處開始」。答案通常是易於整合、具有可擴充性及自訂功能的預建代理式 AI 平台。

代理式 AI 如何運作？

代理式 AI 系統旨在管理並執行各種 AI 元素，以達成既定的專案目標。每項任務的具體細節略有不同，但代理式 AI 系統使用的一般步驟說明如下：

建立目標與參數：接收人類輸入的專案目標與限制條件。
任務與步驟：透過適當的 LLM (可能是從預建選項中選出的基礎模型) 處理這些資訊，藉此將達成目標所需的任務串聯在一起，同時保持在既定的參數與限制範圍內。
自主決策：設定好任務後，代理式 AI 系統會決定如何達成其目標，並自主執行任務或視情況與人類互動。
回饋與修訂：代理程式將接收來自平行任務的資料，並視需要調整工作流程。這可能包括從為了最佳化工作流程而刪減步驟，到為了進一步蒐集資料而新增步驟等各種情況。代理式 AI 系統之所以如此引人注目，在於其根據即時資料做出決策並進行調整的能力。
系統性改善：當代理程式朝目標邁進時，它會將記錄的結果與行動套用至系統性回饋迴圈中，這在 AI 業界通常稱為「資料飛輪」(data flywheel)。此迴圈會推動代理程式的極限，旨在隨著時間提升準確度與效率。

為了讓代理式 AI 系統按設計運作，IT 團隊通常會提供較低層級的自動化/代理程式及資料給代理程式使用。準備就緒之後，企業即可整合符合其功能、自訂能力、可擴展性與效能需求的商用代理式 AI 系統，然後根據專案目標進行精煉以利執行。

代理式 AI 如何運作？圖表 — 代理式 AI 的特性包括主動和目標導向的行為，以及適應性與自主性。

代理式 AI 與傳統 AI 有何不同？

「傳統 AI」是業界用來指稱非生成式 (因此不是代理式) AI 系統的用語。這些基於規則與邏輯的系統會接收資料、進行處理，並產生更多資料作為輸出。以詐騙偵測為例。在這類情境中下，系統會在受過訓練，能夠識別涵蓋購買類型、地理位置、金額及時間等一系列類別的異常與離群值之後，專注於金融公司的客戶記錄。這是一種輸入 (交易資料)/輸出 (判定詐騙狀態) 的情況。儘管涉及工作流程決策，AI 最終執行的仍是其受過專門訓練的預先定義任務。

代理式 AI 的設計則著重於更高的自主性、更專注於目標，進而決定達成目標的最佳方式。代理式 AI 系統具有獨立性，可以主動尋找其所需的資訊以決定如何達成目標，甚至可以連結其他可用工具。回到詐騙偵測的例子。代理式 AI 可以提出問題，並發掘可能提供更多情境脈絡的資訊，因此可能產生更好的結果。因此，如果先前的詐騙偵測模型注意到購買價格與類別異常而觸發警示，代理式 AI 系統將能與其他系統通訊，以蒐集有關該客戶狀況的更多詳細資料。

在此情況下，要求天氣詳細資料可能會顯示該客戶所在地區面臨巨大的突發風暴，並廣泛傳出災難狀況的報告。此外，這一連串突發採購行為來自五金行與雜貨店，代表客戶可能正在採購緊急物資。儘管這些行為與以往不符，但代理程式可以運用這項知識，並在回報警示時傳送情境備註，讓人類做出最終決定。由於代理式 AI 具備決策能力，因此主管可以根據更多資訊做出最終判斷，而無需親自進行外勤調查工作。

代理式 AI 與生成式 AI 有何差異？

代理式 AI 與生成式 AI 皆為功能強大的系統，且各自具有特定且獨特的用途。代理式 AI 著重於決策和行動，而生成式 AI 則著重於內容生成。雖然生成式 AI 近年來在能力與功能方面不斷成長，輸出本身的準確度與品質也有所改善，但它仍屬於「資料輸入 / 資料輸出」的工作流程。

換句話說，生成式 AI 仍需要提示。

以用於研究技術報告的大型語言模型為例。研究人員會提供各種提示，並獲得詳細輸出。研究人員也可能根據輸出提出後續問題，或變更查詢的情境脈絡，以提供不同的方法或觀點。接著，研究人員可以整合這些資訊，並收集對報告最合適的內容。

理論上，透過代理式 AI，上述流程的大部分環節都可以簡化。研究人員無需提出一系列查詢，也不必擔心存在資訊缺口，而只需為代理式 AI 系統提供一個目標 (越具體詳細越好)。在此目標範圍內，代理式 AI 系統接著可以與 LLM 通訊，以生成輸出結果。瞭解預期目標為何之後，代理式 AI 系統接著可以接收生成的資訊並持續精煉，直到獲得令人滿意的輸出結果為止。此外，代理式 AI 系統可以與其他外部來源及 AI 模型通訊，開闢一條可應用於輸出的原創研究路徑，然後再向使用者提供最終結果。

若用真實世界來類比，生成式 AI 類似於擁有一套工具組，可讓您以 DIY 方式修理漏水的水槽。AI 代理程式則更像是請一名水電工來修理漏水，並探索是否有任何相關問題導致了該狀況。而代理式 AI 系統則更像一名總承包商，可以指導水電工，同時與電工及黴菌檢查員協調，調查與漏水相關的損害。

代理式 AI 的真實世界使用案例

代理式 AI 具有在各種使用案例 (包括企業、政府、個人應用程式等) 中加速營運並解決問題的潛力。以下展示代理式 AI 融入日常生活的一些方式。

醫療照護檔案：病患資料可能來自許多來源，包括穿戴式裝置、血液檢驗結果及體檢中的生命徵象。綜合來看，這些資料可能會顯示代表某種新興疾病的模式。然而，要得出該結論，需要更廣泛的機構知識，以及存取與評估該資料的能力。代理式 AI 可以快速處理特定病患的所有傳入資料，以察覺新興的問題徵兆。此外，代理程式具備自主性，可以視需要擷取額外資料，以識別問題並為負責監督的醫生產出報告。
保險理賠：保險理賠涉及許多變動因素，且通常需要處理來自多方的資訊。代理式 AI 系統可以從提交的表單與詳細資料中識別關鍵且相關的資料，進而交叉比對並驗證資訊，以加速完成此流程。同時，系統可以管理工作流程，並在利害關係人有尚未完成的動作要求時通知他們。
供應鏈管理：從預測到庫存管理，典型供應鏈中的許多元素都可以受益於代理式 AI。一個具體例子是運輸與路線管理。在此情境中，標準物流資料來自貨件追蹤系統。然而，AI 代理程式可以與其他系統進行介面連接，以考量路線最佳化。天氣、交通，甚至是政治穩定性與國定假日等因素，皆可被納入考量，並由代理程式產生調整方案，以最佳化配送路線。
交通管理： 政府可以將代理式 AI 整合至交通控制系統中，以統整各種傳入的資料。來自攝影機與感測器的即時交通資料、天氣與施工資料，以及利用歷史模式進行的預測分析，皆可由負責監督的代理式 AI 進行處理與分析，藉此調整交通號誌時間，協助減少擁塞並減輕駕駛人的挫折感。

代理式 AI 的優勢

代理式 AI 代表自動化與流程改善的升級，可能帶來眾多優勢，特別是建立在工作負載、資料管理和特定應用程式之代理程式系統的堅實基礎上時。

以下是企業成功導入代理式 AI 後，所能享有的一些最常見優勢。

全天候營運：代理式 AI 沒有非代理式 AI 在完成任務後需要輸入的需求，而是會繼續朝向目標邁進。這種決策自主性意味著它可以為全天候營運做出貢獻，無論是用於資料處理、研究蒐集、回應客戶請求與問題，或是其他功能。
降低成本：代理式 AI 系統可以快速、準確且持續運作，這可能帶來成本效益。節省的來源因產業而異，但公司通常能從更快速、更大規模的分析中獲益，進而做出有助於改善流程或加速達成里程碑的決策。
提高生產力：當代理式 AI 系統朝特定目標邁進時 (例如分類財務交易、進行總帳分錄或協助客戶)，AI 可以就收集額外資訊、執行切線分析或其他相關任務做出決策。代理式 AI 系統可以快速收集資訊，同時執行一系列平行流程，這一切都只需極少的人力介入。
新觀點：代理式 AI 的設計旨在實現目標，並具有自主權可決定如何達成目標。切線分析與額外的資料蒐集或處理，皆在代理程式的可能範疇內，這能為全新且意想不到的洞察力開啟大門。

代理式 AI 面臨的挑戰

隨著 AI 的互動方式越來越趨近於人類，挑戰成為技術問題的組合，挑戰也演變為一組技術問題 (例如處理必要的運算)，以及建立信任、控制以及符合企業價值觀與意圖的機制。代理式 AI 在設定目標、規劃行動以及與人類互動方面的自主性愈高，組織就越需要考慮開發監控與干預的方法 - 同時又不應扼殺創新與解決問題的潛力。

以下是需要留意的四個具體問題。

準確性：代理式系統通常在準確度方面優於人類水準。然而，和以往一樣，品質不佳的資料可能導致不理想的結果，包括不準確的輸出或不當的行動。就像對待新員工一樣，企業可能希望監控新部署的代理式系統，直到結果持續正確為止。而且，就像新員工一樣，信任應該是要努力贏得的。考慮到這一點，代理式 AI 系統處理的早期任務應具備低風險且易於修正的特性。
資料和工作負載管理：歸根究底，任何 AI 系統皆是企業資料的延伸，並涉及對任務所需的運算、網路工作負載與資源的管理。因此，IT 團隊在開始進行代理程式整合之前，可能需要先判斷其地端與雲端的基礎架構、資料庫及其他資源是否高效且經過最佳化。
資料隱私權：代理式 AI 的自主性，意味著它可以請求存取外部系統與資料。隨著代理程式快速處理大量資料，接觸到敏感資訊的可能性也隨之增加。解決隱私與監管合規性問題，並提供有關行動與存取資料的可存取資訊，能讓代理式 AI 在運作時降低危害敏感資料的風險。
透明度：代理程式是代理式 AI 的基礎，因此開發代理程式時，應使其具備解釋決策與結論的能力。此外，應考慮讓代理程式的關鍵元素 (例如邏輯與評估方法) 可供存取，以便確認其判斷是否有所依據，或在做出沒有依據的判斷時予以修正。

如何開始使用代理式 AI

導入代理式 AI 的 8 個步驟

代理式 AI 專案通常是各個組織專用的，其參數取決於可用資源、團隊目標及其他變數。然而，以下概括性的步驟概述了多數團隊如何展開代理式 AI 專案。

1. 定義目標

代理式 AI 系統具備自主性與目標設定能力，能夠規劃並執行多步驟任務以達成結果，且只需極少的人力介入。這與非代理式且專注於特定任務的 AI 系統不同，後者的目標可能是產生特定、準確的輸出 - 例如根據查詢或某人會喜歡的電影來生成一張影像。團隊必須先定義預期目標，才能專注於根據可用資源建置系統。團隊也可以根據預期目標，決定該從哪個預建系統開始著手。

2. 健全性與可靠性兼備的架構設計

為代理式 AI 設定涵蓋系統生命週期 (從訓練、導入到實際運作) 的適當效能基準與指標。將安全性、合規性與品質審查列為關鍵因素，並盡可能整合各種觀點。最後，即使專案達到甚至超過 KPI，團隊仍應致力於持續監控與改善，以因應未來可能不斷增長的需求。思考潛在的失敗點，並制定應變計畫。

3. 納入安全層機制

代理式 AI 被賦予一定程度的決策自主權，因此請考慮為您的專案設立安全層。這些安全層可能包括：防止不當使用的技術護欄、在 AI 與其他系統介面連接時協助保護資料的安全性與資料隱私權層，以及專案工作流程中的人力監督步驟。

4. 限制範圍與自主權

代理式 AI 專案需要設定參數，以協助防止 AI 決策超出範圍或自主權界限。參數範例包括：觸發人力介入的決策門檻、對特定行動與決策的約束、存取特定類型資料的限制，以及納入回饋迴圈以協助確保代理程式的結果持續改善。

5. 專注於可解釋性與透明度

由於代理式 AI 會自主行動，其結論與行動應具備可解釋性，以便團隊在檢視決策時，能清楚瞭解背後的原理及原因。可解釋性能夠支援模型改善，並在未能達到最佳目標時協助進行疑難排解。

6. 建立明確的控管機制，並優先考慮隱私權、安全性與合規性

您的組織可能已建立用來解決隱私權、安全性與合規性問題的規則。請考慮這些準則是否適用於新的系統，例如代理式 AI。每當代理式系統做出決策、與其他系統連結、處理輸入或產生輸出時，都代表一個潛在風險，因此建立控管機制是重要的考量事項。

7. 持續監控、評估與改善

就像任何新技術一樣，代理式 AI 系統也應該受到監控。需要監控的領域包括效能 (系統的可用性，以及完成指派任務的速度)，以及輸出或行動的準確性。同時也請考慮行為監控。透過記錄一段時間內的行動與決策，您可以識別出異常或意料之外的行為模式或變化 - 可能代表出現資料漂移或模型退化。監控的深度與頻率應取決於代理式 AI 的重要程度，以及發生故障時可能對組織造成的影響。

8. 鼓勵協作與跨領域投入

廣泛且多元的觀點，可幫助團隊洞察可能被忽視的結果與訓練機會。透過從各種角度分析模型，團隊可以擁有更全面且最佳化的代理式 AI 系統，有助於減少盲點與潛在風險。

上述關於監控、分析與透明度的所有細節，皆應彙整為明確的交接機制，藉此劃分組成代理式 AI 系統之 AI 代理程式與人類團隊之間的責任。

代理式 AI 的未來

架構師正致力於讓代理式 AI 系統更健全、可靠，並能在複雜多變的環境中有效且安全地運作。此領域正迅速演進，針對模組化設計、雲端優勢、進階學習機制及其他領域的持續研究，預計將繼續為建置更可靠的自主系統做出貢獻。

以下是一些值得關注的領域。

準確度：隨著代理式 AI 系統不斷精煉，團隊將尋求新的方法，透過學習程序來提升準確度；這些程序可以納入成功與失敗的回饋，以改善原則與決策制定。請留意強化學習等技術，以及更好的篩選與驗證技術。
整合：目前，代理式 AI 已開始逐漸整合至企業系統中，包括業務應用程式。在未來幾年內，代理式 AI 的應用預計將趨於成熟，變得更具適應性且更易於自訂，並針對更多功能提供更輕鬆的進入點。
能源效率：耗電量是 AI 面臨的最大挑戰之一。由於其本質上更複雜的流程與自主研究能力，代理式 AI 預計將比過往的 AI 使用案例消耗更多資源。尋找減少模型能源足跡的方法，可能是代理式 AI 取得長期成功的關鍵。
自主性：目前，代理式 AI 系統通常在人類監督下運作 - 但這並非必要條件。這是因為這項技術尚未獲得完全自主的信任。代理式 AI 技術的目標，是要找到自主性、功能與控制權之間的適當平衡。

開始使用 OCI 生成式 AI 代理程式

企業可以使用 Oracle Cloud Infrastructure (OCI) 生成式 AI 代理程式，輕鬆快速地將代理式 AI 納入版圖。憑藉 OCI 的運算能力與可擴充性，Oracle 的代理式 AI 平台結合了大型語言模型 (LLM)、檢索增強生成功能以及企業資料，實現由自然語言介面引導並自主發現的強大洞察力。Oracle Integration 等代理式 AI 系統適用的自動化工具可以協助組織簡化服務協調，包括針對具備統一可觀察性與有效人力監督功能的 RPA (robotic process automation，機器人流程自動化) 機器人。

在整合結構化與非結構化資料方面，生成式 AI 已越來越駕輕就熟。潛在結果：獲得極具價值的洞察力與創新解決方案，讓您在競爭中脫穎而出。您的資料基礎架構準備好掌握機遇了嗎？

獲取電子書

代理式 AI 的常見問題

RPA 與代理式 AI 有何差異？

RPA 是指機器人流程自動化 (robotic process automation)，其專注於特定任務而非決策。例如，RPA 擅長自動執行重複性任務，例如更新資料格式，或將資料從一個應用程式轉移到另一個應用程式。代理式 AI 系統則會相互協作，以設定、精煉並達成目標；在此情況下，AI 代理程式可以判定某個資料集需要以不同的格式存取，並利用 RPA 建立該資料集的複本，然後再更新格式。

最常用的生成式 AI 是什麼？

ChatGPT 仍是目前最知名的生成式 AI 工具。在其他媒介中運作的其他熱門生成式 AI 工具包括用於影像生成的 Midjourney，以及用於影片生成的 Sora。

什麼是代理式 AI 架構？

概括而言，「代理式架構」是指用於開發代理式 AI 系統的軟體與系統。代理式架構通常建構於現有元件之上，為目標與功能的精煉化及專案導向特殊性 (project-oriented specificity) 提供基礎。代理式架構通常包括用於語言解譯、工具整合、資源管理、情緒分析、向量搜尋與資料前處理的基礎模組。