什麼是自然語言處理 (NLP)？

正如科幻小說很久已前便已預見的那樣，人類正越來越習慣與電腦對話。現今的大型語言模型 (LLM) 與 AI 代理程式在這個方向上取得了重大飛躍 - 而兩者的表達能力都歸功於自然語言處理 (NLP) 領域。每當您對手機口述訊息、輸入冗長的搜尋問題，或要求 AI 摘要文件時，NLP 技術與科技就會啟動。它們理解您的話語，並以您與鄰居聊天的語言類型產生回應。這是一項十分值得探索的發展。

什麼是 NLP？

NLP 是人工智慧的一個分支，能讓電腦理解、生成與操控人類語言。NLP 適用於語音與書面文字，並支援所有人類語言。一些已經存在數十年的 NLP 技術與方法近期取得了顯著改進，而過去幾年內，依賴 NLP 技術的熱門 LLM 已將其推向更廣泛的應用。而將 LLM 整合到更複雜的工作流程中 (以 AI 代理程式 的形式)，勢將增加 NLP 在日常生活中的使用。

定義與概述

現今的 LLM 源自計算語言學 (CL) 的科學領域，該領域研究人類語言的計算建模，而 NLP 則是關注於建置計算方法的工程學科，這些方法協助電腦理解、生成與操控人類語言。過去十年的重大突破是由機器學習 (AI 的一個分支，開發透過範例學習的系統) 所推動。過去幾年的發展，讓機器學習能夠理解大型資料集中非常複雜的模式，使其非常適合學習語言的複雜性。

將 NLP 整合到應用程式中的開發人員利用了 NLP 的兩個主要分支，一個專注於理解語言，另一個專注於對查詢產生新的回應。自然語言理解 (NLU) 可用於情緒分析、實體識別與關鍵字詞擷取等任務。這些任務需要 NLP 應用程式剖析文字或語音，以理解說話內容；而自然語言生成 (NLG) 則在理解人類語言中的情緒與細節後，產生回答、翻譯與摘要。從雲端供應商或開源網站 (如 Hugging Face) 獲得的 LLM 數量與日俱增，而它們在其運作中都整合了 NLU 與 NLG。

為何 NLP 很重要？

不斷改進的 LLM 已將較初階的 NLP (僅能偵測問題含義並套用適當的罐頭答案) 轉變為靈活的對話者，這些模型在精密的神經網路中接受了數 PB 通用資料的訓練。因此，電腦現在可以理解人類語言的結構與含義，讓開發者與應用程式使用者能與它們進行更精細的對話。這對業務、分析、人際關係、客戶服務、醫療照護等方面都有影響 - 隨著資料與文件變得易於搜尋與摘要，它們比以往任何時候都更有價值。以下是一些 NLP 應用方式的範例。

NLP 的應用

由於 NLP 是人工智慧與計算語言學的一個子領域，專注於讓電腦理解並詮釋人類語言，因此具有十分廣泛的應用。任何一個使用案例只要能從「能夠閱讀、詮釋並從文字資料中獲取意義，並能模仿人類溝通方式的機器」中受益，NLP 就能大大派上用場。請考慮下列具體選項：

• 自動化任務：使用 NLP 的聊天機器人與 AI 代理程式可以在責任範圍內處理越來越複雜的任務，例如開立發票、資料分析或網路安全。結果是一種新型態的效率。例如，企業應用程式中的 AI 代理程式可以自動從供應商的報價單 (例如掃描的 PDF) 中擷取相關資訊，然後視需要進行翻譯，並在系統內建立採購請求。這有助於自動化採購流程，發現金額有所出入時，還能協助自動標註供應商的最終發票供主管審查。
• 改善搜尋：傳統 NLP 提供許多技術，透過根據語境辨識單字來改進關鍵字比對搜尋與檢索。例如，「carrier」在生物醫學與物流語境中的含義截然不同 (前者代表載體，後者代表運輸公司)。近期利用向量資料庫的架構，大幅提升了 NLP 理解人類語言語義的能力。向量嵌入 (vector embedding) 程序將數字表示分配給單字、片語與整個文件，從而能夠快速且高度準確地執行語義搜尋、情緒分析與文件相似性分析等任務。NLP 驅動的語義搜尋是一些常見服務 (如零售網站或娛樂串流服務中的推薦系統) 的關鍵部分。
• 分析與組織大型文件集合：文件分群與主題建模等 NLP 技術，簡化了瞭解大型文件集合 (例如企業報告、新聞文章與科學文件) 內容多樣性的任務。近期與日俱增的嵌入模型，讓使用人類語言與資料及文件進行互動達到一個全新境界。檢索增強生成 (RAG) 架構運作時，具備 NLP 功能的應用程式使用人類語言提示 (而非 SQL 或其他程式語言)，探索文件存放區中的資訊。
• 提供社群媒體分析：NLP 可以分析客戶評論與社群媒體評論，以更好地理解大量資訊。情緒分析能識別社群媒體評論流中的正面與負面評論，以即時直接衡量客戶的情緒。長遠來看，這可能帶來巨大的回報，例如提高客戶滿意度與回購率。
• 提供市場洞察力：NLP 可以協助分析客戶的用語，協助企業更精確地掌握客戶的需求，並更瞭解如何與他們溝通。例如，情緒分析可以偵測社群媒體中提到的產品特定面向的評論 (例如「鍵盤很棒，但螢幕太暗」)，為產品設計與行銷部門提供可直接做為行動依據的資訊。
• 審核內容：如果您的企業擁有活躍的社群頻道，NLP 可以協助審核人員追蹤並回應正在討論的內容，讓他們有機會不僅分析文字，還能分析評論的語氣與意圖，以兼顧品質與禮節。這可以為常見的客戶評分與標記系統提供支援。

NLP 的運作方式

NLP 模型最常使用神經網路，從文字訓練資料中學習模式與表示法。NLP 模型可以使用大型資料集進行訓練，以執行情緒分析、具名實體識別、機器翻譯與文字摘要等任務。在 NLP 中，大型語言模型會學習如何根據從輸入資料中提取的模式與特徵，進行預測或生成文字。

NLP 的目標是彌合人類溝通與電腦理解之間的差距，使機器能夠執行需要自然語言理解的任務。以下是一些需要考慮的特定領域。

• 計算語言學：計算語言學是一門研究領域，結合使用電腦科學、人工智慧與語言學，開發能夠處理人類語言各個部分的 AI 模型。成果是能夠分析與處理文字與口語的計算方法。計算語言學涉及語法與文法剖析、語意分析與論述分析的研究。這項研究的應用，促成了我們在機器翻譯、語音辨識、情緒分析與語言生成中看到的 NLP 能力。
• NLP 中的機器學習：由於 AI 模型會透過分析為理解語言提供基礎的大型訓練資料集，學習如何執行各種基於語言的任務，因此現代 NLP 需要機器學習 (ML)。在 NLP 中的成果，是一個能夠完成目標任務 (例如情緒分析、實體識別或語言生成) 的機器學習模型。
  
  例如，情緒分析訓練資料由標有情緒 (例如正面、負面或中性) 的句子組成。機器學習演算法會讀取此資料集，並產生一個模型，該模型會接收句子作為輸入，並傳回其情緒。由此產生的文件分類模型可快速判斷一份文件對主題持正面、中性或負面看法，以及該文件討論的主題是體育、金融或政治等。同樣地，機器學習模型也可以接受訓練，以學習辨識並分類文件內的實體，例如名稱、地點與日期。
• NLP 中的深度學習：: 深度學習是使用深度神經網路模型的機器學習。深度神經網路具有多層互連的節點 (或稱神經元)，允許模型從其訓練資料中學習非常複雜的模式。深度學習與大型訓練資料集相結合，可以提升機器翻譯、情緒分析與語音辨識等 NLP 任務的表現。
• 轉移學習：轉移學習 (通常稱為 AI 模型微調) 涉及採用精密複雜的基礎 LLM，並使用較小的特定任務資料集，將其調整為專用於特定任務。這些基礎 LLM 具備強大的語言掌控能力與廣泛的通用知識，可以進行微調以適應新任務的細微差別。在 NLP 領域，組織可以使用轉移學習來協助 AI 模型提高其使用當地方言的準確度，或在已建立自身專業用語的產業 (如醫學科學) 中運作。

NLP 導入步驟

導入 NLP 的常見步驟包括：

1. 收集和準備文字資料：收集與準備文字資料：從社群媒體、文件或網頁內容等各種來源收集文字資料，然後將其預先處理成適合機器分析的格式。

2. 擷取特徵與表示法：將預先處理後的文字轉換為機器學習模型可以理解的數字格式。最先進的技術涉及將單字與文字段落轉換為向量嵌入。

3. 選擇與訓練模型：根據您要執行的任務 (如情緒分析或文字分類) 選擇合適的 NLP 模型，然後使用準備好的資料集進行訓練，調整超參數以最佳化表現與準確度。

4. 評估和部署您的模型：評估 NLP 模型的準確度、精確度與收回率，以及在給予新資料時是否具備良好的泛化能力。一旦滿意，就在生產環境中部署模型，以處理並分析真實世界環境中的文字資料。

關鍵 NLP 技術與任務

NLP 使用 AI 來促進機器與人類之間的口語互動。它牽涉到達成此目標的一系列技術與任務。

• 預先處理技術：：在 NLP 領域，清理與準備文字資料以供分析 ，一直以來都是至關重要的步驟。這些技術包括符記化 (tokenization)，也就是將原始文字 (例如一個句子或一份文件) 分割成一系列符記，如單字或子詞片段。權杖化通常是 NLP 處理流程管道的第一個步驟。接著再使用詞幹提取 (stemming) 與詞形還原 (lemmatization) 技術，將單字縮減為其基本或詞根形式。例如，「revisited」由前綴「re-」、詞幹「visit」與過去式後綴「-ed」組成。停用詞移除 (stop word removal) 則透過消除不含太多意義的常見單字 (通常是簡短、頻繁出現的單字，如「a」、「the」與「an」) 來協助提升表現，並節省處理資源。
  
  其他預先處理步驟可能包括移除標點符號、處理特殊字元與修正拼寫錯誤。這些技術有助於確保資料採用一致且可用的格式，可供核心 NLP 任務使用。
• 核心 NLP 任務：核心 NLP 任務會隨著時間演進，但每項任務都有助於理解文字的結構與含義，並且通常會搭配使用，以建置最複雜的 NLP 系統。
  
  核心 NLP 任務會分解人類語言，以便電腦可以辨識、擷取與模仿。這些任務包括詞性 (POS) 標記 (識別句子中每個單字的語法角色，如名詞、動詞或形容詞)、語法剖析 (識別單字如何組合成片語、子句與完整句子)、具名實體辨識 (NER) (識別與分類人物、組織與地點) 以及情緒分析 (判定一段文字的情緒語調)。
  
  近期，深度神經網路已成為 LLM 的頂尖技術，利用向量嵌入取代了詞性標記與語法剖析，提供更靈活且準確的人類語言處理能力。
• 進階 NLP 任務：LLM 依賴進階 NLP 技術，實現人類與機器之間自然且引人入勝的對話。這些方法包括不同語言間的自動翻譯；文字摘要 (提供更簡潔的長篇文字段落摘要)；以及問答 (涉及從文件中擷取資訊、且通常會進行改寫，以回答有關文字的特定問題) 等。這類自然語言生成 (NLG) 通常需要精密複雜的模型、大型資料集，且在許多情況下需要進行微調程序，以處理特定領域 (例如醫學或零售) 的任務。

NLP 在各產業中的應用

NLP 可以簡化並自動化廣泛的業務流程，特別是涉及大量非結構化文字 (例如電子郵件、調查與社群媒體對話) 的流程。透過 NLP，企業可以更好地分析其資料，進而做出正確的決策。以下是 NLP 的一些實際應用範例。

• 醫療照護：在轉向電子健康記錄 (EHR) 過程中，全球醫療照護系統累積了大量的非結構化資料。NLP 可以分析健康記錄、從中獲得新的洞察，同時協助醫護人員在節奏緊湊的臨床環境中，無需手動輸入即可在 EHR 中新增或更新紀錄，例如就診後摘要。
• 金融：在金融領域，交易員會使用 NLP 技術，自動從企業文件與新聞稿中挖掘資訊，以擷取與其投資組合與交易決策相關的資訊。
• 客戶服務：許多公司使用虛擬助理或聊天機器人，協助回答基本的客戶詢問與資訊請求，僅在必要時才將問題轉給人類。最近，連接到 RAG 架構的 LLM 已能處理許多更複雜的互動。
• 保險：大型保險公司可以使用 NLP，篩選與理賠相關的文件與報告，並極其迅速地提供承保資訊。

NLP 的挑戰與未來

NLP 領域雖已取得巨大進展，但也面臨著諸多挑戰，這是我們接下來將探討的內容。技術供應商與研究人員每天都在努力讓 NLP 系統更強大、更具適應性，並能理解與生成類似人類的語言。這些努力將在語言翻譯、虛擬助理與文字分析等領域產生重大進展。讓我們來看看一些特定的挑戰和機會。

目前的挑戰

處理人類語言的複雜度與歧義性 (包括理解語境、反諷以及不同語言與方言的細微差別) 絕非易事。NLP 模型通常需要使用大量標籤資料進行訓練，而這些資料的建立可能既耗時又昂貴。

研究人員還在克服哪些其他挑戰？

• 運算成本：隨著 AI 模型的大小和複雜性增加，成本也會根據完成任務所需的運算週期數量而上升。即使強化學習近期有所創新 (可減少訓練方案的時間和成本)，NLP 在生產環境中的執行成本仍可能相當昂貴。機器學習工程師正在探索更高效的架構，並在使用強化學習之餘，額外使用模型剪枝與量化等方法來降低運算成本。
• 資料偏差：視訓練時使用的資料集而定，NLP 模型可能傾向於產生偏袒特定群體的文字 - 也就是像鸚鵡學舌一樣，單純地模仿資料集中帶有偏見的措辭或方言。為了克服這一點，訓練人員必須留意某個族群或情境在資料集中的比例是否過高，進而使用更多樣化的語言變體來擴增資料集。公平感知演算法可協助您在訓練自己的 LLM 時偵測偏差。
• 可解釋性：在 NLP 領域，「可解釋性」是指理解與解釋模型輸出的能力。這可能是一項挑戰，特別是對內部運作複雜、且坦白說並不透明的進階 LLM 而言。在法律、醫療照護與保險決策等環境中，解釋模型的推理過程至關重要，因此可解釋性是不可或缺的。因此，提升模型輸出可解釋性的策略越來越多，最值得注意的包括強化學習，以及線性迴歸、決策樹與一系列特徵工程技術。

未來趨勢

未來的 NLP 將專注於改善語言理解與生成能力，同時讓這項技術對各種應用場景而言更易於取得且更有益。研究人員正致力於開發更高效的演算法、增強多語言能力，並建立可以用較少標籤資料進行學習的模型。

建議 NLP 觀察者關注這些趨勢：

• 基礎模型的進展：基礎模型 (例如 Cohere、Llama、BERT 與 GPT) 持續演進，且可用模型的數量持續增長。有些模型正變得更精密複雜，且功能更加多元；有些模型則專注於簡化與標靶式使用，使其能以極少的額外訓練與較低的運算成本，用於極為廣泛的任務。較大的模型正透過整合多模態資料 (包括文字、影像、影片與音訊) 來提升多功能性。留意架構與基礎架構設計的進展 (包括近期強化學習的發展)，以因應複雜性與擴充需求，同時控管成本。
• 更強大的理解與生成能力：：雖然 NLP 已應用數十年，但憑藉能更精準捕捉語言細微差異 (包括語境、情緒與意圖) 的技術，它在語言理解與生成的能力方面仍持續取得飛躍性進展。留意 NLP 系統在機器翻譯、摘要以及人類的自然語言對話等任務上的持續改進 - 特別是當 RAG 架構與知識圖譜技術為真實世界的業務應用程式帶來更豐富的情境與準確內容時。

使用 Oracle 生成式 AI 增強您的 NLP

您知道嗎，Oracle Cloud Infrastructure (OCI) 提供了升級與改進最先進 NLP 應用程式所需的一切？例如，OCI 的生成式 AI 服務提供了一項簡單易用的服務，能與多功能 LLM (例如 Cohere 的 Command 模型或 Meta 的開源 Llama 系列) 輕鬆整合。您可以使用它來微調各種 NLP 使用案例的模型，包括寫作輔助、摘要、分析與聊天。

為了協助您的企業更輕鬆地取用最新的 NLP 技術，Oracle SaaS 應用程式可在您需要時立即提供 AI 成果 - 無需離開您日常用於推動業務運作的軟體環境。

隨著 NLP 持續演進，它極有潛力革新我們與技術互動、以及處理大量文字資訊的方式。

自然語言處理 (NLP) 的常見問題

NLP 如何改善客戶服務？

NLP 可透過多種方式協助改善客戶服務。它可以處理源源不絕的客戶語音與書面文字查詢，從而更快地解決他們的問題。它會使用精密的 LLM 來達成此目標，這些模型能夠理解客戶互動中的語境與細微含義。同樣地，它還可以在通話結束後提供通話摘要與「待辦事項」，協助人類客服專員為客戶提供更優質的服務。

NLP 在業務分析中有哪些優勢？

NLP 能讓更廣泛的使用者群進行具洞察力的業務分析。其運作方式是讓業務人員無需透過 SQL 等程式語言，而是透過自然語言對話 (例如與懂得如何從企業資料庫中存取、彙整並呈現資料的 AI 代理程式對話) 來探索資料。

NLP 如何協助自動化業務流程？

NLP 會透過理解與生成語言，協助自動化業務流程。例如，NLP 應用程式可能會接收訂單、開立發票，並自動啟動計費與履約流程，員工只需審查並核准該活動即可。這能讓您在處理每張發票時，節省時間與精力。

NLP 和 AI 如何共同提升企業決策能力？

NLP 依賴機器學習，且通常依賴精密複雜的 AI 基礎模型。所有這些 AI 能力都能提高資料分析的靈活性與可存取性，進而協助企業提高決策能力。例如，具備 NLP 的分析平台可能會提供代理式介面，讓業務人員使用自然語言向組織的企業資料庫提問。這能讓業務人員擺脫預先編程的儀表板，進而在資料探索過程中發揮更大的創造力。