Generative AI Service 的特性

模型

OCI Generative AI 支持您访问 Cohere 和 Meta 的预训练基础模型。有关新的可用模型，请参阅我们的产品文档。

Agent Hub

Agent Hub 是一项新的 OCI Generative AI 功能，它提供了一种简化方法来构建、部署和管理 AI 驱动的高级智能体，这些智能体可自动执行业务流程、改善决策和加速创新。此新功能结合了先进的生成式 AI 模型，可与 Oracle 和第三方系统轻松集成，并直接支持领先的开源智能体框架 — 所有这些都通过一个基于标准的接口来实现。

是否对 Agent Hub 的 Beta 测试感兴趣？点击此处了解更多信息。

聊天 API 和练习区

聊天式体验提供 Cohere 和 Meta 模型的开箱即用界面，用户可以通过 OCI 控制台或 API 提出问题并获得对话式响应。

专用 AI 集群

借助专用 AI 集群，您可以在专用的 GPU 上托管私有的基础模型。这些集群提供了生产使用场景所需的稳定、高吞吐量性能，并支持托管和微调工作负载。OCI Generative AI 支持您轻松扩展集群，无需停机即可处理大量的变更。

聊天 API 和练习区

聊天式体验提供 Cohere 和 Meta 模型的开箱即用界面，用户可以通过 OCI 控制台或 API 提出问题并获得对话式响应。

LangChain 集成

OCI Generative AI 与 LangChain 相集成。LangChain 是一个开源框架，可用于基于语言模型为生成式 AI 应用开发新接口。它支持轻松更换使用语言模型所必需的提取结果和组件。

LlamaIndex 集成

OCI Generative AI 支持使用 LlamaIndex（一个用于构建上下文增强型应用的开源框架）来轻松构建 RAG 解决方案或代理。您可以使用自定义数据源和灵活的工具，快速驱动您的解决方案从原型走进生产阶段。

Generative AI 操作

OCI Generative AI 支持内容审核控制，即将推出零停机端点模型交换和端点停用与激活功能。对于每个模型端点，OCI Generative AI 还能捕获和提供一系列分析数据，包括调用统计信息、经过处理的令牌、错误计数等。

面向 Oracle Fusion Cloud Applications 的 OCI Generative AI

通过将 OCI Generative AI 创建的功能直接嵌入 Oracle Cloud Applications，Oracle 让客户无需进行复杂的集成即可轻松、即时访问。

了解更多