什么是主权 AI？

主权 AI 听起来既现代又酷炫，就像詹姆斯·邦德的国际间谍团队守护着一座超级机密的地下数据中心。然而，与邦德电影不同，主权 AI 是真实存在且实用的，而且它影响的远不止国家安全。扎实的主权 AI 治理策略和技术审慎性有助于保护企业资产、保障客户隐私，并加固民用计算基础设施以抵御恶意攻击者。

在很大程度上，主权 AI 依赖于扎实的 IT 安全实践，并受国家法律或行业标准的影响。您的组织或许认为有必要在当前或不久的将来实施主权 AI，即便当下并非如此，也值得考虑采用相关的实践和策略。

什么是主权 AI？

简而言之，主权 AI 旨在确保 AI 的自主生产，涵盖用于训练 AI 的数据、AI 查询时所调用的数据，以及 AI 响应查询时生成的输出数据。

在此语境下，主权 AI 可以包括被标记为“人工智能”的各种类型的技术，包括用于理解数据趋势和发现异常的机器学习；用于识别模式或对象的卷积神经网络；以及由生成式 AI 创建的图像、声音或文本。主权 AI 还可能涉及治理 AI 技术使用的规则，例如有关隐私的规则。

可以这样看待主权 AI，它与数据主权相关但并不相同。在数据主权方面，企业或组织必须考虑关于其数据可以在何处存储和处理的国家规则，甚至包括数据如何跨越网络传输的规则。主权规则的一个例子是欧盟的 GDPR。组织现在可以采取一些做法，以便在规则不断变化时更轻松地满足合规要求。例如，大多数组织都有数据治理策略。在试点初期将这些策略扩展到 AI，有助于避免后续出现问题，并明确哪些用途是允许的。AI 系统可能还需要特殊的规则，这些规则需考虑 AI 模型的训练方式和训练位置，以及它们将如何以及在何处访问组织的数据来提供最实用的结果。

主权 AI 与公共 AI

主权 AI 系统负责存储和管理 AI 模型及相关数据，其中可能包括受国家或地区法规约束的操作数据和训练数据，这些法规通常限定只有授权人员和系统才能使用 AI 应用。您会发现主权 AI 解决方案已被政府、政府承包商、为政府服务的组织，以及任何可能涉及受监管数据和应用程序的企业所采用。

您可以将“公共 AI”视为除此之外的所有情况，即不受主权 AI 考量和其他合规要求约束的应用程序和数据。这份清单包括广泛的消费者应用程序和企业网络。比如 Google Chat 和 Facebook 的 AI 功能所使用的大语言模型，以及许多图像生成器、新闻聚合器、视频会议系统和语言翻译器。但是，并非所有消费者 AI 软件都可以被视为“公共 AI”。银行、医疗保健组织、教育机构和其他组织可能对主权 AI 更感兴趣。

关键要点

• 主权 AI 与数据主权密切相关，并扩展到涵盖新技术和数据用途，包括 AI 模型。
• 当生成式 AI 和机器学习系统训练所使用的数据源或可访问的数据源受司法管辖区或其他限制约束时，使用这些系统便归属于主权 AI 范畴。
• 借助合作伙伴提供的主权控制选项，分布式云基础设施可帮助您应对主权 AI 相关需求，以及数据驻留、隐私和访问控制等方面的要求。

主权 AI 详解

主权 AI 是一个广义术语，指对可能受司法管辖区限制影响的 AI 系统的控制。主权 AI 的一个主要目标通常是帮助防止敏感数据离开司法管辖区或被没有适当凭证的人员访问。

我们需要考虑与主权 AI 相关的六个主要方面：了解适用于您的组织的法规、确定首选的 AI 基础设施、实施数据驻留控制、配置数据隐私控制、建立法律控制机制，以及保护 AI 技术栈。

• 了解法规。 您了解您所在国家或地区的数据主权要求吗？如果回答是肯定的，您很可能属于少数派。这些规则通常很复杂。在 AI 主权方面，您可能需要先考虑数据主权规则，然后还需进一步考虑数据如何用于训练算法，以及最终 AI 模型会输出什么样的答案。

• 确定首选的 AI 基础设施。 您的 AI 解决方案可以在本地、云环境、混合云环境/本地部署模式下实现，甚至可以跨越多个云环境。在云环境构建和管理这一基础设施往往最容易，因为云技术提供商可以协助处理问题并提供丰富的 AI 服务集。

  如果您正在考虑云技术，就需要找到您偏好的模式。您是否需要包含 AI 功能的企业级软件即服务（SaaS）解决方案？还是需要提供众多 AI 工具、可让您用来组装自己的 AI 系统的平台即服务？或者，您是否考虑采用基础设施即服务，即租用服务器和网络，自行构建一切？亦或是这些方案的某种组合？您做出的选择将决定您为主权 AI 合规所需付出的努力。

• 实施数据驻留控制。 敲定基础设施方案后，您应当着手评估数据、应用程序及网络流量的驻留情况，明确有多少资源仍保留在境内或您期望的区域中。如果您的提供商能够帮助您应对数据主权问题，那么您在 AI 主权方面的压力就会减轻很多。

  根据云技术提供商的不同，您可能会发现可以为数据、应用程序、网络、计算基础设施以及必要的用户访问控制设置非常精细的管控措施。根据您所在的行业和具体需求，您也许可以通过使用在多个国家/地区设有区域的商用公有云技术产品来满足合规要求。或者，您可能需要一个能够满足额外要求的政府专用云技术。例如，在欧盟，欧盟主权云技术可能十分适合您。在某些情况下，您可能希望在数据中心内运行完整的云策略；Oracle 将其称为专用区域。您甚至可能希望实施隔离云区域，这是一种看起来像云技术、但运行时无需连接互联网的基础设施。

  所有上述选项都应纳入您的 AI 主权计划考量范围。

• 配置数据隐私控制。 数据驻留关注数据的位置，而数据隐私关注的则是数据的类型以及使用方式。用户能看到个人信息，还是只能看到数据报告中的汇总结果？生成式 AI 在响应查询时可以给出哪些类型的回应？这可能很复杂，而您的软件可能需要一个灵活的访问控制系统来帮助处理复杂的用例。

  例如，仅控制对生成式 AI 聊天机器人的访问可能还不够。您的聊天机器人可能需要设计为能够以量身定制的方式响应查询。好消息是，大型云技术软件提供商，特别是那些提供 SaaS 应用程序的提供商，通常习惯于处理这些复杂场景，并且其中许多提供商已经将这些数据隐私控制扩展到了其 AI agent 和其他人工智能工具中。

  此外，如果组织希望在云环境中使用 AI，则可能需要从运营/内部角度控制可以访问数据的人员。在某些情况下，可以通过使用由客户提供并由本地提供商维护的密钥进行强加密，来解决这一问题。其他情况则需要通过经过安全审查的操作和支持人员来解决。

• 建立法律控制机制。 确定如何遵守法规可能很复杂。即使在一家公司内部，不同数据（如员工信息、健康数据、财务数据、知识产权）也可能有不同的考量。对于跨国公司来说，各种组合和排列令人望而生畏。

  此时，是时候咨询法律顾问了。IT 规划人员可以帮助法务部门了解实现系统合规的具体细节，而律师则可以指导 IT 团队选择有助于降低合规风险的系统。顾问可以在评估和测试方面提供帮助。

  在评估解决方案提供商时，另一个关键方面是考察其是否具备满足您合规需求的司法管辖区能力和资源。例如，如果您在欧盟内运营，您可能希望自己的 AI 云技术提供商提供适合欧盟境内的选项。

• 保护 AI 技术栈。 您可能希望 AI 系统受现有安全体系的管理，但也可能认为 AI 需要更多的投入和测试。自己训练 AI 系统的情况很少见，但如果要这样做，您可能希望开展测试以保护专有训练数据。更常见的情况是，您通常会使用检索增强生成 (RAG) 方式，向 AI 系统提供部分数据。您可能需要进行测试，以发现用户是否能够通过构造提示，查看到其无权访问的信息。

  请注意，如果忽视将每个用户的角色、位置和其他因素延伸到数据检索引擎这一任务，就有可能导致数据泄露，从而影响系统的合规性。除了用户可能获得超出其权限范围的访问权限外，AI 技术栈的安全措施还需帮助应对因恶意攻击或区域性灾害导致的服务中断和数据泄露。这些风险因 AI 生成内容可能导致的身份盗窃而进一步加剧，因而需要稳健的网络安全策略来促进负责任的数据治理，以及通过冗余的基础设施来帮助实现司法管辖区内的韧性。

为什么主权 AI 很重要？

与数据主权一样，主权 AI 之所以重要，是因为它可以帮助组织更好地确保只有经授权的人员和系统才能访问变革性技术和尖端计算平台、网络基础设施、应用程序、知识产权和受保护的数据。

快速演变的主权 AI 格局正促使许多企业重新审视其整个 IT 资产，并向服务提供商咨询与主权 AI 相关的产品。主权 AI 解决方案要求明确制定并严格执行访问控制措施和策略，而这不仅仅是为了避免违反当前的数据主权法律法规。当然，外部因素可能会推动主权 AI 计划，但无论如何，这都是一个好主意。

主权 AI 的优势

主权 AI 相关考量可能会为 IT 和业务运营增加额外的合规与治理层面。以下是这些额外合规工作可能带来的一些收益：

• 业务机会。 越来越多的政府和其他组织希望控制在其境内生成的数据，并可能要求合作伙伴遵循主权 AI 相关要求，而率先行动的企业或将获得竞争优势。
• 增强安全性。 实施主权 AI 功能可能帮助组织更好地保护应用程序、基础设施和关键数据。
• 加强对法规的理解。 规则一直不断变化，朝着主权 AI 方向努力可帮助团队理解政府和监管机构的目标。

主权 AI 面临的挑战

应对主权 AI 相关考量可能会产生一定的成本。以下是围绕主权 AI 的一些挑战：

• 法律成本。 组织可能需要研究多个政府和司法管辖区的法规，然后协调其中复杂甚至可能相互矛盾的规定，以实施主权 AI 计划。法律顾问很可能需要承担其中相当一部分工作。
• 变革步伐缓慢。 每个合规项目都有自己的时间表，这取决于与多个实体（其中可能包括政府和监管机构）的沟通协调。这可能导致某些领域的进展缓慢，时间表往往超出您的控制范围。
• 人员开支。 您可能需要招聘员工或聘请顾问来协助法律工作以及技术解决方案实施工作。由于这是一个新兴领域，这类员工或顾问可能难以找到且成本高昂。
• 技术复杂性。 应对主权 AI 的挑战可能需要对 IT 基础设施和应用技术栈进行调整。可能需要将数据从一个区域迁移到另一个区域。您可能需要编写新软件或修改代码来帮助满足合规要求。

主权 AI 的未来

“更多。”这就是主权 AI 未来的一句话概括。同时，预计新兴的人工智能技术以及新的用例将催生更多法规。图像？视频？社交媒体？无论是您的企业数据涉及 AI 的环节，还是您的客户与员工使用 AI 的场景，都很可能引发主权 AI 方面的考量。

为这个复杂且不断演变的监管环境做好准备的理想方式是什么？寻找合适的服务提供商合作伙伴、选择具有严格安全性的架构和数据模型、设置全面的权限体系，这些前期工作可能需要额外的投入，但您会在努力实现主权 AI 目标的过程中获得回报。

OCI 如何帮助您实现 AI 主权目标？

如果贵组织的 AI 计划利用云计算，无论是单云、多云技术还是混合架构，Oracle 都可为您提供所需的工具和技术。这些工具和技术的核心是 Oracle Cloud Infrastructure (OCI)，它提供了一个强大的平台，可用于构建专属 AI 应用程序，也可为您已在使用的应用程序添加 AI 功能。Oracle 和 OCI 在五个关键领域为主权 AI 和数据主权提供支持：AI 产品、数据驻留、数据隐私、法律控制和安全。Oracle 的 AI 服务和 AI 增强型应用程序套件将最新的智能功能与高度安全、高度可扩展的应用程序相结合。Oracle 的数据驻留功能有助于将您的数据保留在所在国家/地区或其他司法管辖区之内。默认情况下，您的所有数据和元数据都被限制在单个 Oracle Cloud 区域内。借助专有云策略，您的数据也与其他区域的数据在物理上隔离开来。

Oracle 可帮助您管理 AI 模型，并使用先进的安全功能帮助确保访问限制，即使基础模型是自研的或来自第三方提供商。在法律框架和控制方面，Oracle 与 80 多个合规机构合作并拥有相关认证，且已获得美国国防部影响级别 6（Impact Level 6）认证。其他工具可协助在整个 AI 云技术生命周期中管理和审计大语言模型及其他 AI 资产。请阅读 AI 创新：实现主权 AI 的五大关键支柱 (PDF)，了解更多信息。

主权 AI 已然来临

我们都已习惯了数据主权要求，因此出现类似的人工智能法规也就不足为奇了。主权 AI 可以被视为数据主权的延伸，涵盖构成 AI 解决方案技术栈的新技术，包括训练数据、大语言模型和机器学习算法。当然会有新的用例，但您也会遇到许多组织面临的类似问题，包括安全性、数据隐私、数据驻留、访问控制以及法律合规等方面。应将主权 AI 视为一个契机，借此实施最佳实践，保护您的组织、客户，乃至国家和地区的利益。您会发现，只要找对技术合作伙伴，这便是一项值得迎接的挑战。

主权 AI 常见问题解答

主权 AI 与数据主权是否相同？

一般而言，数据主权关注的是数据本身，而主权 AI 关注的是特定司法管辖区内 AI 系统的开发和控制，包括这些系统使用的数据。

哪些行业受主权 AI 影响最大？

许多类型的企业或组织现在或将来可能都会有主权 AI 需求，但总体而言，受影响最大的行业包括军事和国防、医疗保健、教育、金融和银行业，以及关键基础设施。IT 行业本身也可能涉及主权 AI 方面的考量。

主权 AI 的成本高吗？

要走在合规要求的前面，总是需要付出成本的。就主权 AI 而言，最大的预期开支之一，可能是了解并跟进您经营所在地及利益相关方所属司法管辖区的监管环境。此外，合规测试和认证也可能产生成本。虽然可能会有技术支出，但与合适的合作伙伴合作，并在系统设计之初就考虑到未来的主权 AI 法规，可以将这些成本降至最低。