如何以 7 個步驟建立 AI 代理

企業正努力在日常業務流程中整合生成式 AI，從中獲得更多價值。他們開始在多種應用程式中部署稱為 AI 代理的軟體；這些代理的功能是進行文字和口語對話及查詢資料庫，以執行多步驟工作，而且不須事先編寫程式來指定如何應對各種情況。

部署代理人工智慧應用程式後，即可逐步執行，透過與電腦使用者及其行事曆互動、取得本機和雲端系統中的資訊，以及使用搜尋引擎或其他網站，收集需要的資訊，進而回答問題或執行動作。他們仰賴底層的 AI 大型語言模型 (LLM) 來獲得預測和使用自然語言與人類使用者互動的能力。

生產力、客戶管理和後台應用系統的提供者已開始向客戶提供設計工作室，以供自訂、指示及啟用 AI 代理，甚至是建立專屬代理。以下實用準則說明如何讓 AI 代理有能力執行任務，並包含建立和實際使用代理的七個步驟。

什麼是 AI 代理？

AI 代理軟體利用經大量資料訓練的 LLM，尋找概念之間的關係並建立關聯，對電腦使用者的意圖進行相關預測，並透過對話形式溝通。代理的用途是在使用者與語言模型之間進行調解，主動採取步驟來解決多個領域的問題。

代理可協助組織將重複流程自動化，例如協助進行財務預測、輔助人力資源團隊完成招募流程中的多個步驟，或彙總帳戶資訊及發現業務代表向上銷售的機會。

如何以 7 個步驟建立 AI 代理

AI 代理應能理解使用者的組織角色；從業務文件中取得資料，使工作流程保持相關；以及回應自然語言提示，而不是預先編碼的指示。為了讓代理能夠在不斷變化的環境中保持彈性，組織需要進行一些準備工作。

1.選擇代理建置策略。企業需要事先決定，要自訂軟體供應商提供的預建代理來協助自動化流程，還是要從頭建置專屬代理。鑑於現階段處於產業 AI 代理測試和推行的初期，大多數企業可能會自訂預建代理，更容易開始實現價值。在制定決策時，組織應考慮下列層面：

• 內部 AI 人才：設計自訂 AI 代理需要 AI 開發人員、資料科學家和使用者介面專家來進行必要程式設計與系統整合，而應用程式管理員則可以在設計工作室環境中自訂現成 AI 。
• 模型訓練專長：大多數企業都不具備選擇 LLM 的內部知識，以從頭開發 AI 代理；也無法進行微調，以確保從頭建立的模型不會漸漸變得不準確。
• 成本：從頭開始建立需要更高的前期開發投資，以及對 LLM 進行 API 呼叫的費用。如果自訂供應商 (例如 Oracle) 提供的預建 AI 代理，那麼除了公司已在支付的 SaaS 應用程式訂閱費用以外，並不會產生額外費用。
• 高品質資料：必須先為 AI 準備好業務資料，才可供代理使用。這通常需要將資料轉換成向量內嵌，以數學方式顯示概念之間的關係，協助在使用者提出問題時推斷其意圖。從頭開始建立代理的組織也需要留意「過度擬合」的情形，這是指 LLM 與用於訓練的資料太過重合，而無法推斷新的知識領域。
• 治理與監督：企業可能希望代理能記錄工作，讓非 IT 專業人員的業務單位主管也可掌握完整資訊。IT 部門也可能要考慮不讓代理存取不應公開或透露給特定員工的敏感資料。

2.選擇 LLM 或立即可用的代理。讓客戶在設計工作室中微調代理的 SaaS 應用程式供應商，可能會預先選擇軟體要與哪些 LLM 互動，或為管理員提供有限的選擇。從頭開始建置的組織，則必須從 Anthropic、Cohere、Google、IBM、Meta (熱門 Llama 模型的開發者)、Microsoft、Mistral 和 OpenAI 這類公司中選擇 LLM。這種做法可讓企業控制其代理軟體堆疊的每一層，包括底層模型。這也表示，與自訂現成代理相比，他們負責維護更多軟體元件。

3.設計工作流程並定義工具。即使是依需求設定預建代理，也應由應用程式管理員負責，而非一般業務使用者。管理員可以建立新的自訂工作流程，或是從預先設計的工作流程範本開始；也就是以目錄檢視呈現，並寫好程式碼的使用案例。若要定義預建代理的工作流程，管理員可在代理設計工作室的欄位中輸入具體的自然語言指示；或從清單中選取動作，以指定代理應如何與使用者互動、顯示資料或排程預約。管理員也可以選擇代理應使用哪些工具來回答問題，並可提供員工可能詢問的範例問題。

這個流程有助於定義代理的角色，以易懂的文字描述工作的執行方式，以及需要存取的資訊。例如，在人力資源應用程式中，協助向員工說明健康福利的代理，會需要存取醫療、視力、牙科及其他醫療照護政策文件；財務福利代理則可能需要取得公司提繳退休金和認股計畫的資訊 (下方進一步說明)。

4.上傳用於 RAG 的文件。代理有了指示和工具之後，管理員可以使用文件上傳器來準備公司文件，以進行檢索增強生成 (RAG)；這種 AI 技術可在執行時期為 LLM 提供業務文件和資料，以增強模型在訓練期間學習的內容。管理員則提供自然語言指示，說明代理應如何使用文件。有效的代理建置器軟體會抽象化向量資料庫，協助根據電腦使用者想要尋找的內容，在執行時期提供相關度高的結果。

5.按一下以建立。以指示、主題和文件奠定基礎後，管理員只要為代理命名，然後按一下 UI 按鈕，即可在設計工作室中建立代理。自然語言指示可讓工作流程 (或其他代理) 理解其功能。在執行過程中，AI 代理應學習如何透過名為強化學習的數學試錯和獎勵流程來提升其效能。

在沒有設計工作室的情況下從頭建置的公司，可能需要新增財務、人力資源、客戶管理和其他應用程式以及使用者資料庫和文件的整合。AI 代理架構提供了一種取代從頭開始編寫程式碼的方法，那就是提供軟體架構、通訊協議、與雲端及本機資料來源的連接器，以及監控工具，藉此協助企業建立新的代理。熱門的開放原始碼架構包括 LangChain、LlamaIndex 和 Microsoft Research 的 AutoGen。

代理工作室環境也可包含管理員不需要直接存取的幕後架構。

6.設定界限。現在是時候加上護欄，以協助確保代理保持準確，並可識別何時該在採取行動前尋求核准。例如，設定代理的管理員可以新增要求，在傳送電子郵件或更新記錄前取得職員核准。

管理員也可以設定條件，決定問題是否可以回答；或者新增指示，要求底層 LLM 從公司 IT 系統提取資訊，或請使用者釐清問題，而不是自行捏造答案 (生成式 AI 中稱為「幻覺」的缺點)。例如，管理員可以輸入：請詢問使用者或查詢系統，確定有關扶養親屬人數的資訊。如果不知道答案，請勿捏造回應。

代理也可以設計成從本身執行的雲端服務中，繼承內容審查功能。

7.測試、部署及監控。管理員可以透過工作室中的測試區域執行範例互動，以評估代理的回應是否實用且相關，並檢查引用來源。管理員也可以查看當組織改變代理的指示或底層 LLM 時，使用者互動會有何變化。接下來，管理員即可在設計工作室中部署代理。

代理可以透過衡量 RAG 資料和使用者提示的哪些組合，能夠產生最實用的結果，以持續改善效能。然後，業務主管可以對代理的效能進行評分，並將意見回饋納入日後與使用者的互動中。

使用 Oracle AI Agent Studio for Fusion Applications 自訂 Oracle Applications 中的代理

Oracle AI Agent Studio 讓 IT 管理員可在 Oracle Fusion Cloud Applications 中設定 AI 代理，以協助使用者完成各種任務，包括查詢有薪假期額度、提取客戶的購買歷史記錄、處理產品退貨，以及分析製造設備相片以預估維修成本。

Fusion 管理員會從預建範本開始，也就是顯示在工作區中的圖磚，其中包含開始使用時需要的程式碼。接著，代理設計人員向要部署的代理指示功能範圍與限制，以及需要從哪些文件與資料來源尋找資訊。他們也可以從頭建立新的代理。代理包含在客戶的 Fusion 訂閱中，無須額外付費。

如何建立 AI 代理常見問題

AI 代理的功能為何？

AI 代理是部署在業務應用程式或個人生產力軟體內的虛擬助理，可協助電腦使用者解決問題或完成工作。以往的軟體助理仰賴預先編寫的規則和工作流程；AI 代理則與之不同，能夠理解自然語言提示和情境，同時適應新情況。

AI 代理會是未來嗎？

隨著 AI 代理部署到不同的業務應用程式中，對人為介入的依賴降低；同時，也透過與更多業務使用者和消費者的互動持續學習，因此會愈來愈實用。