什么是 AI 卓越中心 (CoE)？如何建立一个？
Margaret Lindquist | 高级撰稿人 | 2025 年 12 月 5 日
AI 卓越中心 (CoE) 是一个由解决方案架构师、技术专家、主题专家和业务经理组成的核心枢纽，企业可借助该中心制定总体 AI 战略，并为 AI 技术的智能采用和应用建立框架。基于 AI 的系统和应用供应商也可以建立卓越中心 (CoE)，帮助客户部署并优化其最新的 AI 创新成果。请继续阅读，了解 AI CoE 的优势以及组织构建 AI CoE 的具体步骤。
AI 卓越中心详解
仅以医疗保健行业为例，Menlo Ventures 2025 年的一份报告发现，22% 的组织已实施特定领域的 AI 工具，较 2024 年增长了 600%。AI 采用率的快速增长在其他行业同样普遍，这表明组织需要一个中央团队来确保该技术能够高效、高产且安全地实施。
一个高效的 AI 卓越中心既充当枢纽，又扮演教练的角色。作为一个中心，它可以提供通用构建块，例如参考架构、大语言模型 (LLM) 目录、数据集、评估方法，以及用于 AI 应用开发、部署和监控的工具。作为教练，它可帮助整个企业的团队发现开展试点的机会，在适当的控制措施下将有前景的解决方案投入生产环境，衡量成果，并最终创造业务价值。
由于缺乏统一的协调职能，不同部门通常会花费大量时间解决相同的问题，例如模型选择、访问控制、隐私审核等。团队负责人可以就 AI 使用或使用限制做出决策，但这些决策可能与其他部门的决策不一致。CoE 既能减少工作重复，又能为安全性、质量和性能制定统一的指导方针。它还定义了 AI agent 的运行方式、可介入的流程、可读取的数据，以及人员如何监督和批准由 AI 驱动的操作。
例如，医院的 AI 卓越中心 (CoE) 可以制定使用 AI agent 来记录医患对话并生成准确病历草稿的战略和框架，同时提出审查这些病历草稿和保护患者数据的最佳实践。
了解如何借助 Oracle Health EHR 将您的 EHR 转变为智能的 AI 驱动型医疗保健助手。
为什么 AI 卓越中心至关重要？
AI 卓越中心可帮助组织以一致且透明的方式把握 AI 机遇，旨在管理风险，并确保所有利益相关方都能清楚了解他们可以以及不可以使用该技术做什么。它为质量、安全性和合规性制定共同标准，整合 AI 工具选择以降低成本和复杂性，并提供一致的培训。这些中心还会与组织领导层合作，确定哪些流程最能从 AI agent 的使用中获益、如何监控这些 agent，以及如何跟踪和评估结果。
建立 AI 卓越中心的优势
建立 AI 卓越中心 (AI CoE) 的主要优势包括：加快技术采用速度、提高投资回报率，以及最大限度降低成本和风险。下面我们将详细阐述这些潜在优势：
- 更快速地创造价值。可复用的组件、模板和设计模式可帮助团队更快地从构想到试点再到正式投入生产。
- 强大的数据治理和安全性。针对隐私、安全、数据驻留及合规性建立管控措施，有助于降低风险。
- 更高的质量和可靠性。标准化评估（例如测试集和红队测试）可随着时间的推移持续提升模型性能。测试集是用于评估机器学习模型的数据子集。红队模拟对 AI 系统的恶意攻击，以发现安全漏洞。
- 成本控制。集中式合约、整合平台以及共享推理容量（指 AI 系统利用其习得知识生成日益相关的输出的能力）可以降低总体支出并提升性能。
- 人才培养。基于角色的培训，以及与同样致力于探索 AI 最佳应用场景的人员合作，可以提升整个组织（包括 IT、销售、市场营销、财务、供应链、人力资源和业务运营）的技能水平。
- 更好的决策制定 能够对各种 AI 提案进行横向比较，帮助组织优先考虑具有高投资回报率和可接受风险状况的用例，同时避免重复投入。
- 安全使用 AI agent。AI agent 应继承特定应用程序已实施的数据保护和身份管理措施。单点登录、基于角色的访问控制以及日志记录和审计功能，有助于限制风险并防止意外操作。
何时建立 AI 卓越中心
大多数组织会先试用 AI，然后再建立 AI CoE。例如，鼓励员工使用生成式 AI 来起草职位描述和绩效评估。下一步通常是确定需要高管支持的高价值用例。以下是表明您的组织可能需要建立 AI 卓越中心的五个迹象：
- 您有多个 AI 试点项目在争夺资源，而且各自的标准都不明确。
- 您的组织须遵守严格的法规和/或数据驻留要求。
- 您组织的团队需要一种安全的方式来构建 AI 工具和代理。
- 管理层希望全面了解 AI 投资、其价值及潜在风险。
- 您的组织计划将 AI 应用从孤立的概念验证扩展到企业级能力。
如何构建 AI 卓越中心？
明确 AI CoE 的愿景和目标只是第一步。以下是建立 CoE 时需要考虑的问题，以及 CoE 团队成员需要具备的主要职责和技能。
- 高管支持与明确授权
若缺乏高管支持和明确的指导，AI CoE 几乎不可能取得成功。明确组织使用 AI 的拟定范围、各部门在AI项目中的协作方式、员工需要接受的培训类型，以及成果的跟踪与衡量方式。此外，明确 CoE 的权限级别，包括全组织员工在实施和使用AI过程中的角色。 - AI 采用政策
明确 AI 安全、隐私、法律问题、风险评估和数据管理方面的职责范围。成立一个工作组，负责制定 AI 投资和采用政策。该工作组应考虑的一些问题包括模型和数据的使用、数据保留、第三方工具选择，以及在发生与 AI 相关的事件（例如隐私泄露）时员工可遵循的流程。确保所有员工都了解自己的职责。 - 参考架构和平台策略
CoE 负责制定 AI 模型开发和部署的最佳实践，监控 AI 资源的使用情况，并制定和执行 API 及 SDK 使用标准。安全性、法规合规性和数据隐私都是稳健平台战略的组成部分，能够支持多种 AI 工作负载和业务用例。将 AI 功能集成到现有 IT 系统中，可以优化数据流、简化治理并提高运营效率。负责此项工作的系统架构师需要访问 LLM、检索增强生成 (RAG) 技术以及机器学习运维 (MLOps) 工具。 - AI 模型和提示框架
为了从 AI 模型获得一致的结果，组织可以记录所选模型的特征，并权衡准确性、生成结果所需时间、训练相关成本以及模型处理数据的能力等方面的取舍。同时，建立提示库有助于 AI 用户节省时间，并确保查询能产生一致的输出结果。制定严格的指导方针有助于防范提示注入风险，即恶意提示诱骗 AI 执行非预期或有害操作。 - 数据管理实践
最佳实践是清点并映射 AI 工具将使用的所有数据源，并按敏感性对其进行分类，从公开到高度受限。仅收集和保留特定目的所需的数据，以降低数据泄露风险。在为 AI 训练选择数据时，应考虑用真实但虚构的值替换原始数据，例如使用通用客户名称代替真实姓名。
特别是在法规有明确要求的情况下，应让客户能够控制其个人数据在 AI 应用中的使用方式。制定明确的策略，在整个 AI 生命周期内保持数据质量、一致性和可追溯性。对数据资产以及因用户请求影响数据而发生的变更进行编目，可帮助组织确保其 AI 活动能够得到可靠审计。
卓越中心 (CoE) 可以帮助其组织围绕 AI 制定稳健的数据实践，以保护敏感信息并遵守隐私法规。适当的数据管理有助于确保 AI 模型准确可靠。它还支持审计和故障排除所需的透明度和问责制。践行负责任的 AI 和数据管理实践，有助于提升公司在客户、合作伙伴和监管机构中的声誉。 - 项目受理和优先级排序
AI CoE 团队需要建立一个流程，供员工提交 AI 项目创意并评估这些提案。要求提供一份业务案例，阐明要解决的挑战、预期成果、成果衡量标准以及用例的潜在风险概况。根据潜在投资回报率、与组织目标的一致性、所需资源以及风险水平来评估机会。跟踪每项计划的进展、成果和最佳实践，以及遇到并克服的挑战。 - AI agent 的策略和工具
CoE 成员可以建立框架，定义 AI agent 的运行方式、哪些 agent 将连接到其他 agent，以及它们将如何协同工作以执行任务。他们还可以设置对企业系统的最小权限访问，这种做法有助于确保 agent 只能访问执行其任务所需的最少系统。同时，CoE 可以制定规则，帮助确保组织安全地使用 AI，并致力于实现组织目标。实时防护机制可屏蔽有害内容、遏制滥用行为并跟踪支出，防止成本超支。 - MLOps 和 LLMOps 实施
MLOps（机器学习运维）是简化和自动化机器学习工作流的过程，使 AI 开发人员能够创建可扩展的部署，并保持一致的模型性能。LLMOps（大语言模型运营）概述了用于管理 LLM 生命周期的流程、工具和工作流。
MLOps 和 LLMOps 的组成部分之一是为 AI 模型开发持续集成/持续交付 (CI/CD) 管道。例如，AI CoE 可以为 AI 模型版本控制、监控和反馈循环以及提示测试与评估建立最佳实践。其他组成部分包括模型注册表，AI 开发人员可在其中集中管理完整机器学习生命周期的版本控制，包括模型元数据和审计跟踪。 - 基于角色的员工培训
展望未来，每位员工都可能参与 AI 工具的开发、实施或使用。培训和变更管理计划适用于所有角色，包括高级管理人员、负责创建 AI 模型的数据科学家和工程师，以及需要能够识别 AI 滥用或 AI 漂移迹象的最终用户和支持人员。AI 漂移是指 AI 模型失去其原始上下文或优先级的情况。为用户提供实操演练和参考实现，有助于规范行为并促进采用。 - AI 价值衡量
试点 AI 模型让团队有机会在受控环境中通过衡量结果来验证特定解决方案的价值。成功的模型可以扩展，以实现更广泛的应用。试点项目需要与高价值业务用例保持一致，并设定严格的时间框架，以防止功能范围蔓延。项目事后复盘可帮助 CoE 负责人确定是否应将 AI 解决方案推广到更广泛的组织，还是应放弃该方案。
提示和预构建模型等可复用资产可以降低成本并简化模型行为。卓越中心可以帮助评估组织的 AI 使用是否符合更广泛的企业目标。此类团队中的财务人员可以衡量投资回报率，开发人员可以跟踪模型生命周期和输出质量，管理人员则可以监督模型采用情况和风险事件。 - 变更管理和沟通策略
CoE 制定组织的整体 AI 策略以及推动该策略的步骤后，下一步就是与员工进行沟通。员工需要了解使用 AI 背后的动机、组织期望获得的收益，以及他们可以和不可以使用 AI 工具做什么。引入任何新技术时，教育用户负责任地使用该技术至关重要，包括了解该技术的局限性以及如何保护个人数据。 - 采购和供应商管理
创建一个集中式流程，用于评估第三方供应商及其工具，重点关注安全性、隐私、数据驻留位置、工具生成的知识产权归属，以及该工具在组织内部使用方面的任何限制。制定标准化合同条款。 - AI 成本跟踪和管理
AI CoE 需要跟踪和管理 AI 使用成本。这些成本包括工具本身的成本、开发或许可 AI 模型并对其进行训练的成本、底层计算处理和数据存储的成本，以及与监控 AI 系统及其性能相关的成本。采用成本回溯财务模型，让团队意识到其资源消耗带来的财务影响。成本分摊模型用于根据团队的 AI 使用量直接向其计费。 - 风险和事件计划
这一步绝不能事后才考虑。CoE 团队需要让 AI 用户能够轻松识别并报告风险，且无需担心因此受到惩罚。最常见的五类风险包括：数据泄露，即 AI 系统无意中暴露私人信息；安全违规，即可能对用户造成伤害的风险，例如基于不准确或不完整数据训练的医疗保健 AI agent 做出的错误诊断或治疗建议；模型漂移，即 AI 工具的性能随着时间推移而下降；供应链风险，即由第三方工具或数据引入的漏洞；以及 agent 行为异常，即自主 AI agent 以意料之外的方式运行或实施欺骗行为。
卓越中心 (CoE) 可以开展桌面演练，模拟真实的安全事件，以评估组织应对 AI 相关问题（例如安全漏洞或知识产权侵权）的计划的有效性。
实际注意事项
构建 AI CoE 时，请考虑以下事项：
- 选择合适的首批使用场景，重点关注具有可衡量成果、丰富数据来源以及风险较低或中等的潜在商业机会。
- CoE 可以设定并传达整体组织目标，同时授权产品团队交付符合这些目标的产品。
- 确保人类掌握控制权。特别是在部署 AI agent 时，应对高影响力的行动制定明确的审批流程，并建立安全机制，允许人类暂停或覆盖 agent 的行动。
利用 Oracle 加速 AI 创新
Oracle AI 医疗保健卓越中心整合了 Oracle 在 AI、安全云和数据管理方面的专业知识，以及顶尖医疗保健顾问、其他医疗保健技术提供商和全球部分最大医疗中心的专业经验。随着组织寻求最大限度发挥 AI 的优势并降低风险，该中心可协助其实施切实可行的解决方案，以提升患者护理水平、提高运营效率、提高员工队伍的工作效率和满意度，并实现财务流程的自动化。