OCI 提供適用於各種使用案例的 NVIDIA GPU 型裸機和虛擬機器執行個體,從主流圖形和視訊,到最嚴苛的 AI 定型和 HPC 工作負載。執行個體之間的遠端直接記憶體存取 (RDMA) 通訊支援 1,600 Gb/秒頻寬的大型 GPU 叢集,以進行模型定型、推論運算、物理式模型製作與模擬、影像轉譯,以及大量平行 HPC 應用程式等工作負載。
OCI 上的 NVIDIA GPU Cloud 機器映像經過 NVIDIA AI Enterprise 認證和支援。NVIDIA AI Enterprise 是一款完全受管理、安全且雲端原生的 AI 和資料分析軟體套件。
NVIDIA GPU 的設計目的是要能夠使用不同的資料多次執行相同的指示,以協助客戶解決複雜的科學、工程和業務問題。Oracle 最新的 GPU 適用於模型定型、推論運算、物理和影像轉譯,以及大量平行應用程式。
裸機伺服器可讓客戶直接在伺服器硬體上執行高效能、對延遲敏感、專業和傳統的工作負載,就像在內部部署環境中一樣。裸機執行個體適用於必須在非虛擬化環境中執行的工作負載。
NVIDIA A100 GPU 利用 Oracle 的低延遲叢集網路,該網路採用遠端直接記憶體存取 (RDMA) 技術,透過融合式乙太網路 (RoCE) 執行,延遲不到 2 毫秒。客戶可以在叢集中代管超過 500 個 GPU,並視需要進行調整。
將您的工作負載與不同的執行個體類型進行比對,以找出最理想的組合。
根據工作負載需求,使用您偏好的 CPU 架構。
Oracle 區塊磁碟區的價格比競爭對手便宜了 57%,並且其效能可達到或超過競爭對手產品。Oracle 直接明瞭且全球一致的雲端儲存定價沒有標準輸入/輸出作業每秒用量的佈建費用,也不需要使用複雜的定價公式來預測支出。
Oracle Cloud 網路基礎架構既快速、可預測又低廉,提供主要雲端供應商的最低資料傳出費用 (免費提供 10 TB 之後)。對於具有大量資料傳輸需求的客戶而言,這會產生龐大的成本優勢。
運算、儲存、資料庫及基礎架構價格在全球均相同,與某些地區的競爭對手相比,節省了 30% 以上的費用。
使用隔離的網路虛擬化來防止對客戶租用戶的攻擊。Oracle Cloud Infrastructure 安全第一架構的一個基本元素是,其設計使用了客製化設計的 SmartNIC 來隔離和虛擬化網路,以中途攔截惡意軟體。
使用依使用者和資源邏輯群組組織而容易定義的原則,不僅控制誰可以存取 Oracle Cloud Infrastructure 資源,也控制存取類型。客戶可以利用現有的組織階層和同盟目錄服務 (包括 Microsoft、Okta 及其他 SAML 目錄提供者),管理身分識別及授予存取權。
透過專為在每次佈建新伺服器或建立新客戶租用戶時用於消除和重新安裝韌體所設計的客製化建置硬體型信任根基技術,降低對 Oracle Cloud Infrastructure 客戶租用戶的韌體型攻擊風險。
使用雲端式、符合 PCI 法規的全域 Web 應用程式防火牆 (WAF) 服務,保護應用程式免於惡意和非必要網際網路流量的危害。透過結合威脅情報和強制實施一致的規則,此服務還可增強防禦,並保護網際網路端應用程式伺服器。
集中管理並維持控制用於保護企業資料及存取資源的加密金鑰和密碼認證。這兩者會儲存美國聯邦資訊處理標準 (FIPS) 140-2 第 3 級認證的硬體安全模組 (HSM) 中,以確保安全。
使用者可以使用 OCI Identity and Access Management 進一步控制個別金鑰和保存庫的權限,並使用 OCI Audit 監控金鑰生命週期變更,以符合增強的合規要求。
Oracle 支援 Microsoft Windows Server 和企業版 Linux 作業系統的廣泛清單,包括 Oracle Linux、CentOS、Ubuntu 等。Oracle Autonomous Linux 是一款免費的自主作業環境,可降低複雜性和人為錯誤,從而節省更多成本,提供更高的安全性和可用性。
OCI OS Management 可讓客戶為自己的作業系統環境設定自動更新和修正原則。
客戶可以在 Oracle 運算執行個體上執行自己的作業系統和 Hypervisor,並針對各種組態大小使用相同的映像。
Oracle Cloud Marketplace 為資料科學、分析、人工智慧 (AI) 和機器學習 (ML) 模型提供軟體和磁碟映像,讓客戶能夠快速從資料中取得洞察分析。
存取數百個 GPU 最佳化的應用程式,以進行涵蓋各種產業和工作負載的機器學習、深度學習和高效能運算。瞭解詳情。
透過在 Oracle Cloud 上執行 NVIDIA RTX Virtual Workstation,客戶可以在每次員工需要時提供強大的工作站效能。
開發人員使用容器建置的應用程式,會利用 Oracle 管理的專用容器登錄服務來儲存和共用容器映像。使用 Docker V2 API 和標準 Docker 指令行介面 (CLI),將 Docker 映像推送至登錄或從中提取。映像可直接下載到 Kubernetes 部署位置。
函數即服務 (FaaS) 使開發人員能夠執行與 Oracle Cloud Infrastructure、Oracle Cloud Applications 和第三方服務整合的無伺服器應用程式。利用開源 Fn Project 社群來提高開發人員效率。
Altair 的 ultraFluidX、nanoFluidX 和 HyperWorks CFD 求解器利用 GPU 執行個體大規模地快速預測車輛、建築和其他複雜流程模擬的氣體動力特性。
YellowDog 為複雜的 3D 專案和熱門動畫影片提供電腦產生的影像轉譯。透過 Oracle 裸機伺服器,YellowDog 可縮短客戶應用程式的返回時間。
透過在 Oracle Cloud 上執行 NVIDIA RTX Virtual Workstation,客戶可以在每次員工需要時提供強大的工作站效能。
「Oracle Cloud Infrastructure 讓我們能夠快速處理數千種模型,因此我們可以快速訓練演算法。它是世界上最適合我們工作類型的平台之一。」
能源情報經理 James Kelloway
National Grid ESO
「我們想與 OCI 建立長久的關係。很高興能夠利用 GPU,藉此定型新一代的語音 AI。我們認為 OCI 在未來成長方面將為我們提供許多資源。」
產品共同創辦人暨副總裁 James Hom
SoundHound
「Oracle Cloud Infrastructure 是業界頂尖的超大規模雲端業者,不僅為 Oracle 客戶提供 XaaS 運算和應用程式服務,還提供遠超出您預期的多項功能,包括 AI/ML 和 GPU 工作負載。」
Joel Kaufman
WEKA 資深技術行銷經理
「自從移出 AWS 之後,我們的數據足跡提高了四倍,而成本則降低了 40%。與 AWS 相比,我們在 OCI 上使用的 GPU 運算容量低 33%。」
執行長 Suren Gounder
Tango Eye
「與 Oracle 雲端平台的整合為我們提供最先進的 GPU 運算資源、世界級的安全性及極具彈性的 VMware 環境。這最終將可提高生產力、最佳化資源使用率並縮短上市時間。」
技術長 Sam Mahalingam
Altair
執行個體會以虛擬機器和裸機形式供應,以提供彈性和高效能。
形狀 |
GPU |
架構 |
GPU 互連 |
GPU 記憶體 |
CPU 核心數 |
CPU 記憶體 |
儲存體 |
網路 |
每小時 GPU 價格 (美元) |
每小時伺服器價格 (美元) |
大型擴展 AI 定型 | ||||||||||
---|---|---|---|---|---|---|---|---|---|---|
BM.GPU.GM4.8 (新增) |
8x NVIDIA A100 80GB Tensor Core |
安培 |
NVIDIA NVLINK |
640 GB |
128 |
2,048 GB |
4x 6.8TB NVMe |
8x2x100 Gb/秒 RDMA* |
$32 | |
BM.GPU4.8 |
8x NVIDIA A100 40GB Tensor Core |
安培 |
NVIDIA NVLINK |
320 GB |
64 |
2,048 GB |
4x 6.8TB NVMe |
8x2x100 Gb/秒 RDMA* |
$24.4 | |
小型 AI 定型、推論、串流、遊戲、VDI | ||||||||||
VM.GPU.GU1.1 (即將推出) |
1x NVIDIA A10 Tensor Core |
安培 |
不適用 |
24 GB |
15 |
240 GB |
區塊儲存體 |
24 Gb/秒 |
$2 |
|
VM.GPU.GU1.2 (即將推出) |
2x NVIDIA A10 Tensor Core |
安培 |
不適用 |
48 GB |
30 |
480 GB |
區塊儲存體 |
48 Gb/秒 |
$4 |
|
BM.GPU.GU1.4 (新增) |
4x NVIDIA A10 Tensor Core |
安培 |
不適用 |
96 GB |
64 |
1,024 GB |
2x 3.84TB NVMe |
2x50 Gb/秒 |
$8 |
|
VM.GPU3.1 |
1 個 NVIDIA V100 Tensor Core |
Volta |
不適用 |
16 GB |
6 |
90 GB |
區塊儲存體 |
4 Gb/秒 |
$2.95 |
|
VM.GPU3.2 |
2 個 NVIDIA V100 Tensor Core |
Volta |
NVIDIA NVLINK |
32 GB |
12 |
180 GB |
區塊儲存體 |
8 Gb/秒 |
$5.9 |
|
VM.GPU3.4 |
4 個 NVIDIA V100 Tensor Core |
Volta |
NVIDIA NVLINK |
64 GB |
24 |
360 GB |
區塊儲存體 |
25 Gb/秒 |
$11.8 |
|
BM.GPU3.8 |
8 個 NVIDIA V100 Tensor Core |
Volta |
NVIDIA NVLINK |
128 GB |
52 |
768 GB |
4x 1.92TB NVMe |
2x 25 Gb/秒 |
$23.6 |
|
VM.GPU2.1 |
1 個 NVIDIA P100 |
Pascal |
不適用 |
16 GB |
12 |
72 GB |
區塊儲存體 |
8 Gb/秒 |
$1.28 |
|
BM.GPU2.2 |
2 個 NVIDIA P100 |
Pascal |
不適用 |
32 GB |
28 |
192 GB |
區塊儲存體 |
2x 25 Gb/秒 |
$2.55 |
Oracle 資深副總裁 Greg Pavlik
核心雲端基礎架構可能一開始就相當平易近。就像汽車引擎一樣,其目的是要讓工作一貫且安靜地完成。但就像我們的汽車引擎從汽油動力進化到混合式及電動馬達一樣。
閱讀完整文章免費在 Oracle Cloud 上建構、測試及部署應用程式。註冊一次,即可獲得兩個免費優惠。
在降低效能密集型和企業應用程式成本的同時,提高效能和安全性。
透過 Oracle Cloud Infrastructure 訓練影片、自訂進度的學習實驗室和認證來探索雲端訓練資源。
Oracle Cloud Infrastructure 將公共雲端的彈性和實用性與本機運算環境的控制、安全性、效能和可預測性結合在一起。