GPU 实例
Oracle Cloud Infrastructure (OCI) Compute 提供基于 NVIDIA GPU 的裸金属和虚拟机 (VM) 实例，以强大的可扩展性满足主流图形、AI 推断、AI 训练、数字孪生和 HPC 需求。
OCI Supercluster 可大规模提供高性能 GPU，以加快心脏病研究中使用的大型语言模型 (LLM) 训练速度。
为何要选择 OCI for GPU 实例？
可扩展性
131,072
一个 OCI Supercluster 的最大 GPU 数量1
性能
3200
高达 3200 Gb/秒的 RDMA 集群网络带宽2
价值
220%
其他云技术服务供应商的 GPU 价格比 Oracle 更贵，高达 220%3
广泛选择
VM/BM
利用 VM 调整大小，利用裸金属实例优化性能
1：OCI 超级集群可扩展至 131072 个 NVIDIA B200 GPU（计划中）；NVIDIA GB200 超级芯片中超过 100000 个 NVIDIA B200 GPU（计划中）；65536 个 H200 GPU（计划中）；32768 个 NVIDIA A100 GPU；以及 16384 个 NVIDIA H100 GPU。
2：针对具有 NVIDIA H100 GPU 的裸金属实例。
3：根据截至 2024 年 6 月 5 日的按需定价。
GPU 实例关键特性
OCI 在主流云技术供应商中率先提供基于 NVIDIA GPU 的裸金属实例，能够为客户提供零虚拟化开销的强大性能。对于 AI 训练中的检查点，Oracle 实例单节点可提供最高 61.44 TB 的本地存储。
高性能 NVIDIA GPU 实例
NVIDIA Tensor Core GPU
OCI 为搭载 NVIDIA H100 Tensor Core GPU、L40S GPU、A100 Tensor Core GPU、A10 Tensor Core GPU 和其他旧版本的 NVIDIA GPU 的裸金属和虚拟机计算实例提供了超高的价值和性能。OCI 还计划提供基于 NVIDIA H200 和 Blackwell GPU 的实例。
NVIDIA 超级芯片
在 LLM 推断方面，OCI 提供了 NVIDIA GH200 Grace Hopper Supership，并计划推出 GB200 Grace Blackwell Superchip。
高性能集群网络
Oracle 基于 RDMA 的超低延迟集群网络可提供微秒级延迟。
在 VM 实例、裸金属实例和 Kubernetes 集群上部署
虚拟机 (VM) 实例
对于虚拟机，OCI 提供基于 NVIDIA Hopper、Ampere 及其他旧版本的 GPU 架构：1 至 4 个核心，每个 VM 16 至 64 GB 的 GPU 内存，高达 48 Gb/秒的网络带宽。
裸金属实例
OCI Supercluster 具备裸金属实例，搭载了 NVIDIA 的 Blackwell、Hopper 或 Ampere Superchips，每个节点具有 640 GB 的 GPU 内存。
Kubernetes 编排
使用托管式 Kubernetes、OCI Service Mesh 和 OCI Container Registry，编排基于容器运行的 AI 和机器学习 (ML) 训练和推断。
访问现成可用的软件
获取软件和磁盘映像
Oracle Cloud Marketplace 面向数据科学、分析、人工智能 (AI) 和机器学习 (ML) 模型提供相应的软件和磁盘映像，您可以快速获取数据洞察。
NVIDIA AI Enterprise
NVIDIA AI Enterprise 是一个面向数据科学和生产 AI（包括生成式 AI、计算机视觉和语音 AI）的端到端软件平台。
NVIDIA DGX Cloud
NVIDIA DGX Cloud on OCI 是一个 AI 训练即服务平台，能够为开发人员提供针对生成式 AI 进行了优化的无服务器体验。
NVIDIA GPU Cloud 机器映像
使用 NVIDIA GPU Cloud 机器映像获取数百种针对 GPU 优化的机器学习、深度学习和高性能计算应用，满足广泛行业和工作负载的需求。
NVIDIA RTX 虚拟工作站
基于 Oracle Cloud 运行 NVIDIA RTX 虚拟工作站，随时随地为员工提供强大的工作站性能。
自主控制 AI 计算环境和数据
OCI Dedicated Region
使用 OCI Dedicated Region 在您的数据中心部署完整的云技术区域，完全控制数据和应用。
Oracle Alloy
成为 Oracle Alloy 合作伙伴，向客户提供您自己的云技术服务，满足特定市场需求。
微服务和容器
容器注册表
使用容器构建应用的开发人员可以利用 Oracle 托管的高可用性专用容器注册表服务来存储和共享容器映像，并利用 Docker V2 API 和标准的 Docker 命令行界面 (CLI) 在注册表与容器之间推送/拉取 Docker 映像。支持将映像直接拉取到 Kubernetes 部署中。
Oracle Functions
函数即服务 (FaaS) 支持开发人员运行与 Oracle Cloud Infrastructure、Oracle Cloud Applications 以及第三方服务集成的无服务器应用。借助开源 Fn Project 社区的集体智慧提高开发人员的工作效率。
GPU 实例使用场景
面向深度学习训练和推理的人工智能基础设施
使用 OCI Data Science、裸金属实例、基于 RDMA 的集群网络和 NVIDIA GPU 训练 AI 模型。
下图描述了深度学习模型开发的两个阶段：模型训练和模型推理。在左侧的模型训练中，未经训练的神经网络被输入到由 OCI Data Science、裸金属计算、本地存储和集群网络支持的训练算法中。训练算法的输出是具有新功能的训练模型。右侧描述了模型推理步骤。DALL-E 2 等经过训练的模型可以接受文本输入并生成图像。文本输入被馈送到经过训练的模型中，并提供模型的图像输出。
Virtual Desktop Infrastructure (VDI)
由 NVIDIA GPU 提供支持的 OCI Compute 为 VDI 提供一致的高性能。
Virtual Desktop Infrastructure
使用 GPU 实例的 CFD 和高性能计算
OCI 支持计算机辅助工程和计算流体动力学快速预测对象的空气动力学特性。
使用 GPU 实例的 CFD 和高性能计算
