什么是小语言模型 (SLM)？它们如何运作？

如今似乎人人都在谈论大型语言模型 (LLM)。也是，ChatGPT 和 Microsoft Copilot 等公开可用的 LLM 驱动聊天机器人，已彻底改变了诸多领域。然而，对于希望将人工智能集成到应用程序中的企业而言，LLM并非必需品——事实上，它们可能过于强大。小型语言模型应运而生。SLM 是精简高效的定向人工智能模型，适用于多种场景，包括完全在设备上运行的应用程序，或需要访问敏感内部数据、或需大量训练以减少幻觉的系统。小语言模型同样受到科研团队和学术团体的青睐。这些群体需要定制模型，却缺乏构建大型语言模型所需的基础设施或预算。

什么是小语言模型 (SLM)？

SLM 作为一种语言模型，与 LLM 采用相同的工作原理，但规模小得多，通常比大部分 LLM 小 100 至 1000 倍。训练者可使用更小数据集缩短训练周期，让成品模型兼具成本效益与可管理性。由于 SLM 可以脱机运行，其安全性配置往往优于 LLM，实际部署中的推理速度也通常更快。很多 SLM 可在手机、平板或边缘设备本地运行。

SLM 通常针对特定领域进行窄域任务训练，例如：生成会议记录摘要、将简单用户请求转换为代码片段，或完全在本地环境处理敏感信息以规避云端数据传输并提升合规性。由于 SLM 可在组织安全环境内基于专有数据进行微调或训练，相较于 LLM 更不易产生错误或幻觉现象。

SLM 与 LLM：效率与可扩展性

SLM 和 LLM 在开发步骤和核心技术需求上具有共通性。差异在于规模 — 这影响着从训练到持续运行的方方面面，包括资源消耗与成本支出。

大多数大型语言模型都包含数千亿参数，并通过海量数据集训练以应对高要求任务，例如面向公众的聊天机器人。在企业内部署 LLM 需要消耗大量计算资源、能源、数据存储空间及物理基础设施。正因如此，当本地或云端 LLM 既非必要亦不切实际时，IT 架构师正转向 SLM 以提供专业化的人工智能功能。由于 SLM 专为特定目的而设计，其训练参数数量可大幅精简——通常仅需数十亿甚至数亿个参数。相较于数百亿级参数规模，SLM 显然在训练、测试、部署及持续管理方面更具可控性。

SLM 与 LLM：主要差异

关键要点

• SLM 采用更少参数并接受更专注的训练，通常针对特定领域或学科的单一需求。
• 相较于 LLM，SLM 可在普通手持设备或边缘设备运行，更易满足安全性与合规性要求。
• SLM 通常针对窄领域功能训练，例如自动对服务台工单进行分类和分配，或者为客户服务聊天机器人提供支持。

小语言模型详解

SLM 的训练、优化与部署流程与 LLM 相同，但规模更为精简。重点关注领域包括：

• 体系结构：SLM 使用的参数较少，模型层级更精简。
• 训练数据集：SLM 使用更专注的数据集，通常涉及单一学科，例如法律或药理学。
• 部署：模型可部署于笔记本电脑、手机及边缘设备，更适用于现场操作场景。

当技术、监管或运营限制阻止使用 LLM 时，或业务需求无需 LLM 的广泛能力时，SLM 是明智之选。SLM 还具有固有的优势，包括推理速度更快、延迟更低、部署更灵活，且可能减少幻觉现象。与 LLM 类似，SLM 也可在云端运行。

小语言模型的优点

SLM 可在硬件与功耗受限且预算紧张的情况下实现本地化 AI 部署。以下是 SLM 的一些最常见优点：

• 高效且经济：SLM 所需计算资源和基础设施更少，可优化能耗并降低运营成本。
• 增强用户体验：SLM 支持移动和边缘设备提供应用内 AI 功能，并提供灵活的部署选项。
• 安全性：由于 SLM 通常可在移动或边缘设备上完全运行，在涉及严格安全隐私要求或受监管数据的场景中，其适用性可能优于 LLM。
• 速度和响应速度：凭借紧凑高效的特性，SLM 能在低功耗处理器或内存有限的设备上比 LLM 更快处理信息并生成响应。SLM 还能在小型设备上独立运行，无需依赖外部网络资源。
• 实际应用价值：SLM 特别适用于现场作业、远程环境等领域专属任务，在需要快速响应和低资源消耗的场景中表现卓越。您可以在智能音箱、手机、应用内助手等设备中找到 SLM。

小语言模型使用案例和示例

SLM 通常用于嵌入到物联网/边缘设备或集成到软件工作流中。以下是 SLM 的一些常见应用示例：

• 客户支持自动化：通过嵌入聊天机器人和工单系统，SLM 可自动处理常见客户咨询，缩短响应时间并降低运营成本。
• 内容个性化：SLM 能将用户数据转化为定制化的内容、产品及信息推荐，同时满足隐私保护与合规性要求。
• 按需翻译和多语言支持：SLM 可在设备端实现即时语言理解与翻译，无需依赖外部服务器传输。
• 文本分析与数据解析：SLM 可将电子邮件和聊天日志等非结构化数据转化为具体可行的洞察、汇总、分类和异常检测，而大多数工作都可以从这种实时分析中受益。
• 医疗卫生行业的虚拟助手：符合《健康保险便携和责任法案》 (HIPAA) 的 SLM 在集成到医疗卫生平台时，可私密、安全地处理问诊、预约挂号、病历调取等常规任务。

小型语言模型的未来

与更大的同类模型 LLM 一样，SLM 仍在持续发展。以下是即将到来的趋势：

• 训练技术进步：随着AI行业开发参数高效微调、新型知识蒸馏等优化方案，SLM 正实现更精细化发展，从而提升从 LLM 向 SLM 的知识迁移效率。
• 边缘和移动计算扩展：随着 AI 的进步推动资源高效推理与模型体积精简，，SLM 应在边缘设备和移动环境中获得更大的部署灵活性。
• 普及化与民主化进程：由于训练和使用资源需求较低，SLM 有望融入更多组织项目，并覆盖此前因资源或预算限制而被排除的地区。

为何为 SLM 选择 Oracle？

Oracle Cloud Infrastructure (OCI) 提供适当规模的计算选项和全方位的托管式 AI 服务，是开发、训练和部署 SLM 的理想平台。OCI 提供经济高效且可扩展的基础设施，团队仅需按需付费。多区域部署与数据驻留选项可覆盖全球，同时满足监管和合规性要求，包括 AI 主权。对于无法将数据迁移到公有云模型或使用公有云模型的组织，OCI 提供专属解决方案。高级安全功能可提供额外保障。

虽然 LLM 经常引起更多关注，但 SLM 是实现特定任务的关键生成式 AI 技术，例如在企业应用中嵌入语言功能，或为手机平板提供设备端 AI 支持。借助 OCI，团队可在硬件与预算限制内训练、调优和测试 SLM，将其集成至为领域专业知识而设计的运行时中，使 AI 优势惠及 LLM 难以适用的环境。

SLM 常见问题解答

小型语言模型如何针对特定应用进行微调？

微调 SLM 过程需使用聚焦数据集（例如，客户支持脚本或医疗文档）将模型定制化以适配特定任务或领域。SLM 可使用域数据在云基础设施上进行训练和微调，并根据应用的优先级调整参数。例如，健康应用程序的运行时无需引用莎士比亚名句，邮件摘要生成器也不需要掌握最新体育赛事比分。这一理念的核心在于帮助模型学习专门的词汇、模式和上下文。微调对SLM尤为有效，通过聚焦特定功能突破其容量有限的局限。但训练者需警惕过拟合风险——模型在训练数据上表现优异，却因无法泛化而对新数据处理失当。

使用小型语言模型会带来哪些安全隐患？

SLM 的训练、调优和测试可在安全的云环境中高效完成。部署于设备时，SLM 可能会比 LLM 提供更大的安全优势，因其推理过程无需外部资源支持。此外，由于 SLM 运行时的范围更集中，因此组织可能更易满足监管与隐私要求。