如何在业务中扩展 AI

您的企业将会受到人工智能 (AI) 的影响。要想让 AI 能够为您服务，而不是与您作对，就需要让 AI 脱离试点阶段，早日投入日常运营。

早期的 AI 推动者已经为您探路：这些企业使用 AI 来提高应付账款和应收账款流程的速度和准确性，汇总法律简报和其他研究报告，并为解读 X 光片等关键任务添加了一层保证。这些领军企业使用 AI 来检测数百万笔金融交易中的欺诈行为，并在繁忙的仓库和高度负荷的制造车间迅速做出决策。企业也使用 AI 聊天机器人来处理日益复杂的电话支持服务，并引导销售人员针对每个客户采取合适的下一步行动。

而这一切都仅仅是个开始。

然而，为了取得每一次胜利，企业必须经历一个扩大规模的过程，整合工具和人员，并做出 AI 在现实世界中能够发挥作用所需的技术和文化调整。

下面，我们将介绍在扩展 AI 以促进业务发展时，您将会面临的各方面挑战。

什么是可扩展 AI？

可扩展 AI 支持使用机器学习 (ML) 算法或生成式 AI 服务，从而跟上业务所需的速度并完成日常任务。该技术要求算法和生成模型具备所需的基础设施和数据量，从而达到所需的运行速度和规模。除此之外，可扩展的 AI 还需要来自企业许多部门的数据，这些已经集成的完整数据足以为算法提供获得结果所需的信息。

同样重要的是，那些准备在工作中使用 AI 输出的人员。在满足所有这些需求后，可扩展的 AI 可以提高业务运营的速度、安全性、准确性、个性化甚至是创造力。

关键要点

• 扩展 AI 可以大大改善各种业务运营。
• 要想获得成功，其中涉及了数据管理、数据科学和业务流程管理等多个工作领域。这些通常统称为机器学习操作 (MLOps)。
• MLOps 包括构建和训练 ML 模型或训练当前算法或大型语言模型 (LLM) 以实现业务目标。
• 企业在将 AI 引入日常运营时，需要考虑到数据安全性、数据隐私和监管报告。

为什么 AI 很难扩展？

扩展 AI 需要投资和承诺，包括新的技能和技术、重型计算能力以及改变企业运营方式。扩展 AI 不仅限于构建和训练模型，还意味着将 AI 引入生产级应用，从而大规模运行，为业务用户提供监视和报告功能。

在扩展 AI 的过程中，企业需要克服六大挑战：

1. 数据：数据是 AI 的命脉。它指的是训练机器学习算法的信息以及经过算法扫描的信息，从而输出结果。ML 模型使用的数据有多种形式。这些数据可以位于关系数据库的行和列中，也可以位于文本文档、图像、视频或社交媒体中。
   
   要想获取、整理和分析海量数据集，需要具备数据管理和工具以及云技术服务投资方面的专业知识，例如基于云技术的可扩展数据湖仓一体。数据的安全性和隐私性是任何已扩展的 AI 的重中之重。就像任何企业存储的敏感数据一样，这些数据必须受到保护，避免受到外部和内部威胁。AI 运营团队也必须肩负额外的责任：确保训练数据中的敏感信息不会出现在 AI 输出中。


2. 流程：扩展 AI 是一个至少涉及三组人员的迭代流程：
   
   
   1. 专家：每个相关业务运营的专家，无论是客户服务、物流、产品设计、放射学还是会计。
   2. IT 团队：IT 团队负责集成、保护和标准化运营数据，并整合必要的计算能力和网络。
   3. 数据科学团队：数据科学团队负责创建机器学习功能，选择模型并优化参数，直到 AI 已经准备好进行部署和扩展。您的业务运营专家将会与数据科学家合作确保 AI 输出符合准则。该团队必须了解检索增强生成 (RAG)，RAG 能够提供一种基于企业数据优化 LLM 输出的方法，无需修改底层模型。


3. 工具：用于扩展 AI 的工具集合有三种类型：数据科学家用来构建机器学习模型的工具、IT 团队用来管理数据和支持计算密集型算法的工具，以及帮助商务人士在日常任务中使用 AI 输出的工具。构建一个 ML 模型通常需要数据科学家使用各种开源和专有工具将十几个专门的系统组装在一起。
   
   近日，科技企业将数据科学、数据管理和 AI 运营工具整合到集成平台中以扩展 AI。这项工作通常称为机器学习运维 (MLOps)，其中包含了用于构建、维护和监视 AI 以及向内部利益相关方和监管机构报告 AI 输出结果的工具。


4. 人才：设计、训练和部署机器学习模型所需的专业知识需要时间来学习，因此具有深厚 AI 领域知识属于稀缺人员，聘用成本高昂。这就是为什么到目前为止，技术巨头一直在构建 AI 平台，并提供给那些愿意为 AI 专业知识付费的大型技术型组织。
   
   现在，MLOps 平台作为云技术服务提供，LLM 则可通过 API 调用。这为更多企业打开了获得 AI 的大门。使用云技术提供商提供的 AI 服务，虽然仍然需要数据管理和数据科学专业知识，但可以减轻雇用掌握深度 AI 模型构建专业知识的人员的压力。


5. 范围：当您需要在企业中的某个领域试行 AI 时，您会采取多规模的行动？理想情况下，您可以将 AI 计划做得足够大，在运输时长、客户体验或其他可衡量的结果方面产生明显效果。但是，AI 扩展的早期阶段不应该太复杂，也不应该与盈亏底线密切挂钩，以至于一旦遇到困难，就想彻底终止计划，不愿冒任何中断的风险。您不妨选择一个中断不会造成太大伤害的领域，从小规模开始实施计划。随着企业内部专业知识越来越丰富，越来越有信心，再逐步扩大 AI 计划的范围。


6. 时间：CompTIA 发现，近 80% 的 AI 项目从未超越概念验证，而成功的项目需要耗时 3 至 36 个月，具体取决于范围和复杂性。这些时间都花在选择和部署模型以及在受控环境中监控 AI 输出上。
   
   业务决策者还需要考虑到为大规模 AI 系统提供所需的数据的时间和工作量。数据科学家和 IT 团队需要通过机器学习算法获取、集成、存储、准备和流式传输数据并监视输出。市场上有越来越多的开源工具和库以及自动化软件和云技术服务可以帮助企业缩短这一周期。随着该领域趋于成熟，工具也将如此。

可扩展 AI 的重要性

尽管扩大 AI 的实施规模十分困难，但企业高管相信，这些挑战和前期成本最终将被业务收益所抵消。根据麦肯锡 (McKinsey) 报告，到了 2030 年，AI 将为全球经济增长贡献约 13 万亿美元。这其中有几个原因。首先，为了利用 AI，更多的企业将实施“数字化转型”项目，从而利用他们自己的数据，在数字经济中提高创新能力和竞争力。AI 将能够整合这些竞争优势，带来进一步的创新。那些已经实现 AI 扩展的企业可以获得更高的客户满意度和员工工作效率，同时更高效地使用船舶、卡车、制造设备和仓库等资产。

如何在业务中扩展 AI

要将 AI 引入犹如混战的商业运营领域中，听起来就让人怯步，但如果遇到合适的项目，这么做是值得的。您可以从数据科学开始，根据您的业务目标，对机器学习算法库进行定制。如果您使用 API 来访问和训练 OpenAI 和 Cohere 等供应商提供的大语言模型，这也是一个很不错的建议。

接着，我们需要找到并摄取用于训练 AI 的数据集。这些数据集包含了内部数据、外部数据或两者混合的数据。为了让 AI 能够在商业环境中运行，企业需要将利益相关方和倡导者聚集在一起，无论他们是来自客户服务、财务、法务还是任何其他部门。这些倡导者将与数据科学团队合作，让 AI 训练人员能够了解目标业务职能的员工在“工作中的每一天”。然后，这些倡导者将与他们的同事或合作伙伴合作，共同为 AI 驱动的流程做好准备，并在相关流程上线时全面推广。有了机器学习模型、数据流和业务流程，是时候在企业中扩展 AI 了。

扩展 AI 的七个优秀实践

在业务流程中扩展 AI 将会面临许多挑战。以下是帮助您取得成功的优秀实践：

1. 专注于数据生命周期

首先，必须有一个能够集成和更新数据源并提供安全、标准化格式的数据结构，数据科学家才可以构建机器学习模型，企业才可以扩展这些模型。

2. 标准化和简化 MLOps

在选择 MLOps 平台时，该平台必须满足数据科学和机器学习运营团队的技能要求，并且能够与您的 IT 基础设施或主要云技术提供商的 IT 基础设施相匹配。

3. 创建协作式多学科 AI 团队

AI 计划涉及各个学科和部门。因此，我们需要将整个企业的利益相关方聚集在一起，为该计划提供帮助。

4. 选择成功率更高的初始项目

将 AI 引入任何业务流程都是一项复杂的工作。从一个能够快速成功的项目开始，为目标更远大的未来项目指明方向。企业可以考虑建立 AI 卓越中心，以确保能够取得成功。

5. 制定治理和可报告计划

选择内置了治理功能的数据管理、数据科学和业务运营工具。了解相关的安全和隐私法规，并在您的流程中构建合规性和可报告性。

6. 端到端跟踪模型

寻找能够跟踪 AI 输出的速度和成本以及其背后的原因，以及对最终用户的价值的功能。

7. 使用正确的工具

为了在您的业务中扩展 AI，您需要一组工具来让数据科学家能够轻松地与 IT 工程师合作，并使两个团队都能在 AI 治理和合规性问题上与业务人员合作。基于云技术的数据科学平台可以为数据科学家团队提供构建、训练、部署和管理机器学习模型和记事本的平台，即一个可将代码执行与数据可视化和文本注释相结合的交互式计算环境。其中的关键在于为训练人员提供空间，让他们可以试验模型、开发模型和扩展模型的使用。

利用 Oracle 解决方案扩展 AI

如果您希望在企业中扩展 AI，Oracle Cloud Infrastructure (OCI) 将会是您明智的选择。OCI 可以帮助您以更具意义的方式获得 AI 的优势，并根据您的需求进行扩展。您将能够获得一系列具有内置 ML 模型和可用 AI 服务的 SaaS 应用，以及用于大规模构建、训练和部署 ML 模型的基础设施。Oracle 还支持您轻松访问基于 Cohere 强大的 LLM 的生成式 AI 模型。

对于数据科学家而言，完全托管的数据科学平台可帮助用户使用 Python 和其他开源工具来构建、训练、部署和管理机器学习模型。Oracle 提供了基于 JupyterLab 的基础设施，适合用于试验模型、开发模型以及使用 NVIDIA GPU 和分布式训练来扩展模型。OCI 是训练生成式 AI（包括会话式应用和扩散模型）的理想之选。

借助 OCI，您可以利用 MLOps 功能（如自动化管道、模型部署和模型监视）将模型投入生产环境，并确保模型时时更新。立即联系 Oracle，或免费试用这些服务。

虽然消费者级的 AI 引起了人们的广泛关注，但企业已经在积极实施 AI 和机器学习。技术平台和业务流程正在迅速涌现，帮助扩大企业 AI 的规模，使更多项目能够从概念验证转向全面生产。尽管挑战依然存在，企业只要能够克服这些挑战，就可以实现更高的效率、准确性、数据安全性、个性化和创新。

如何扩展 AI 的常见问题解答

如何扩展 AI 产品？

扩展 AI 产品是一项团队工作，涉及整个企业的利益相关方，其中包括数据科学专家、数据管理和 IT 专业人员，以及对使用 AI 产品的业务流程有深入了解的人员。通常，MLOps 平台可以帮助该团队一起设计、训练、部署和微调 ML 算法。

如何扩展 AI 初创企业？

扩展 AI 初创企业需要对数据采集、ML 模型或 LLM 以及计算基础设施（无论是部署在本地还是云端）尽早做出正确的决策。初创企业需要购买大量 GPU 来训练大型数据集，并运行性能和可靠性兼具的复杂 AI 基础设施，从而能够及时交付成果。

什么是 AI 系统的可扩展性？

可扩展的 AI 系统具有足够的速度和准确性，可以应对犹如混战的商业环境。这些系统超越了实验或概念验证阶段，能够通过扩展来服务一群用户。

什么是 AI 扩缩容？

扩缩容是指任何能够通过扩展来满足业务需求的计算密集型服务。如果应用需要更多的计算资源，则支持相关应用的 IT 基础设施必须能够快速交付。在某些情况下，扩缩容也指的是在不需要基础设施时进行缩减。例如，某些应用会有季节性或季度的高峰期。支持扩缩容的云基础设施可以通过扩展来满足这些需求，然后再缩小。这样一来，企业就不需要为没有使用到的基础设施付费。