GPU 인스턴스

Oracle Cloud Infrastructure(OCI) Compute는 NVIDIA GPU를 활용하는 베어메탈 및 가상 머신 인스턴스를 통해 메인스트림 그래픽 및 비디오는 물론 가장 까다로운 AI 학습 및 HPC 워크로드를 비롯한 다양한 사용 사례들을 지원합니다. OCI는 극도로 짧은 대기 시간과 회선 속도에 가까운 네트워크 성능을 바탕으로 학습 시간 및 비용 측면에서 모두 탁월한 결과를 선보였습니다.

SoundHound, OCI에서의 음성 AI 확장을 통한 성능 향상
SoundHound, OCI를 통한 음성 AI 확장으로 50~60% 성능 향상(3:28)

AI 및 메타버스 컨퍼런스인 NVIDIA GTC의 OCI 관련 세션 다시보기

GPU 인스턴스-주요 기능

인스턴스 간 원격 직접 메모리 액세스(RDMA) 통신은 대규모 GPU 클러스터를 지원할 수 있는 초당 3,200Gb/s의 대역폭 및 극도로 짧은 지연 시간을 제공합니다.

고성능 NVIDIA GPU 인스턴스

NVIDIA Tensor 코어 GPU

OCI는 다음과 같은 NVIDIA GPU들을 활용하여 베어메탈 및 가상 머신 컴퓨트 인스턴스를 위한 최고의 성능을 제공합니다: H100, L40S(출시 예정), A100, A10, V100, P100.

베어메탈 성능

베어메탈 컴퓨트 인스턴스를 사용하는 고객은 서버 하드웨어에서 직접 고성능을 요하고 지연 시간에 민감한 특수 워크로드를 실행할 수 있습니다. 실행 경험은 온프레미스와 정확히 동일합니다.

고성능 클러스터 네트워킹

RDMA에 기반한 Oracle의 초저 대기 시간 클러스터 네트워킹은 마이크로초 단위의 대기 시간을 제공합니다. 고객은 성능 면에서의 타협 없이도 512개 이하의 GPU를 갖춘 클러스터와 512개 초과 GPU를 갖춘 OCI Superclusters를 호스팅할 수 있습니다.

고성능 NVIDIA GPU 인스턴스
클러스터 노드당 대역폭: 1노드 = NVIDIA A100 GPU 8개

다양한 VM 및 베어메탈 컴퓨트 인스턴스 선택 가능

가상 머신 및 베어메탈

귀사의 워크로드를 최적의 인스턴스 유형과 일치시켜 이상적인 조합을 찾아보세요.

VM 인스턴스

VM 인스턴스의 경우 1~4코어, 16~64GB GPU 메모리, 최대 480GB의 로컬 연결 플래시 스토리지가 탑재된 NVIDIA Ampere, Volta, Pascal GPU 중에서 선택할 수 있습니다.

베어메탈 인스턴스

노드당 640GB의 GPU 메모리를 갖춘 NVIDIA H100 또는 A100 Tensor 코어 GPU를 사용하여 HPC 및 AI 학습용 베어메탈 인스턴스를 클러스터링합니다.

다양한 VM 및 베어메탈 컴퓨트 인스턴스 선택 가능
NVIDIA V100 및 A10 GPU 성능 비교하기

네트워킹 및 스토리지 비용 절감

전 세계적으로 일관된 가격 정책

OCI 사용료는 어떤 리전에서든 간단하고 투명한 방식으로 책정되므로, 워크로드의 실행 위치와 관계없이 클라우드 관련 지출 내역을 예측할 수 있습니다.

네트워킹 및 스토리지 비용 절감
리전별 클라우드 벤더사 가격 비교

안전한 클라우드 인프라

격리된 네트워크 가상화

격리된 네트워크 가상화를 통해 고객 테넌시에 대한 공격을 예방할 수 있습니다. 이는 Oracle Cloud Infrastructure(OCI)의 보안 우선 아키텍처의 핵심 구성 요소로서, 네트워크 격리 및 가상화를 위해 맞춤 설계된 SmartNIC를 통해 맬웨어를 차단합니다.

Oracle Cloud Infrastructure Identity and Access Management

사용자와 리소스로 구성된 논리적 그룹의 정의하기 쉬운 정책을 사용하여 Oracle Cloud Infrastructure 리소스에 대한 액세스 권한을 보유한 사람, 액세스 권한 및 액세스 유형을 제어할 수 있습니다. 고객은 기존 조직 계층 구조와 Microsoft, Okta 및 기타 SAML 디렉터리 공급자를 비롯한 페더레이션 디렉터리 서비스를 활용하여 ID를 관리하고 액세스 권한을 부여합니다.

하드웨어 신뢰점

새 서버가 프로비저닝되거나 새 고객 테넌시가 설정될 때마다 펌웨어를 지우고 다시 설치하도록 설계된 맞춤형 하드웨어 기반 신뢰점 기술로 Oracle Cloud Infrastructure 고객 테넌트에 펌웨어 기반 공격이 발생할 위험을 최소화할 수 있습니다.

Oracle Web Application Firewall

클라우드 기반의 PCI 호환 글로벌 웹 애플리케이션 방화벽(WAF) 서비스로 원치 않는 악성 인터넷 트래픽으로부터 애플리케이션을 보호할 수 있습니다. 이 서비스는 위협 인텔리전스와 일관된 규칙 시행을 결합하여 방어 기능을 강화하고 인터넷 연결 애플리케이션 서버를 보호합니다.

Oracle Cloud Infrastructure Vault

엔터프라이즈 데이터를 보호하는 암호화 키와 리소스에 액세스하는 데 사용되는 비밀 자격 증명을 중앙에서 관리하고 제어할 수 있습니다. 두 보안 모두 FIPS(Federal Information Processing Standards) 140-2, 레벨 3 인증, HSM(하드웨어 보안 모듈)에 저장됩니다.

사용자는 OCI Identity and Access Management를 사용하여 개별 키 및 저장소에 대한 권한을 추가로 제어하고, OCI Audit으로 키의 수명주기 변경 내역을 모니터링하여 강화된 규제 준수 요구 사항을 충족할 수 있습니다.

다양한 운영 체제 선택

인기 운영 체제에서 선택

Oracle은 Oracle Linux, CentOS, Ubuntu 등을 포함한 광범위한 Microsoft Windows Server 및 엔터프라이즈 Linux 운영 체제를 지원합니다. Oracle Autonomous Linux는 복잡성과 인적 오류를 감소시킴으로써 보다 저렴한 사용료 및 더 나은 보안성과 가용성을 제공하는 무료 자율 운영 환경입니다.

운영 체제 관리 자동화

OCI OS Management 서비스를 통해 운영 체제 환경 자동 업데이트 및 패치 정책을 고객이 직접 설정할 수 있습니다.

설명서 보기

BYOI(Bring Your Own Image)

고객은 Oracle 컴퓨팅 인스턴스에서 자체 운영 체제 및 하이퍼바이저를 실행할 수 있으며 구성 크기에 관계없이 동일한 이미지를 사용할 수 있습니다.

즉시 사용 가능한 소프트웨어 활용

소프트웨어 및 디스크 이미지에 액세스

Oracle Cloud Marketplace에서 제공하는 데이터 과학, 분석, 인공 지능(AI), 머신러닝(ML) 모델용 소프트웨어 및 디스크 이미지를 통해 데이터로부터 인사이트를 신속히 도출할 수 있습니다.

NVIDIA GPU 클라우드

광범위한 산업 및 워크로드에 적용 가능한 수백 가지의 딥러닝, 머신러닝, 고성능 컴퓨팅용 GPU 최적화 애플리케이션에 액세스할 수 있습니다. 더 알아보기.

NVIDIA RTX Virtual Workstation

Oracle Cloud에서 구동되는 NVIDIA RTX Virtual Workstation을 통해 귀사의 직원들이 필요로 하는 강력한 워크스테이션 성능을 어디서든 제공할 수 있습니다.

마이크로서비스 및 컨테이너

컨테이너 레지스트리

컨테이너를 사용하여 애플리케이션을 구축하는 개발자는 고가용성 Oracle 관리형 프라이빗 컨테이너 레지스트리 서비스를 활용하여 컨테이너 이미지를 저장하고 공유할 수 있습니다. Docker V2 API 및 표준 Docker 명령줄 인터페이스(CLI)를 사용하여 레지스트리 사이에서 Docker 이미지를 푸시하거나 풀링할 수 있습니다. 이미지를 Kubernetes 배포로 직접 풀링할 수 있습니다.

Oracle Functions

Functions as a service(FaaS)를 사용하면 개발자가 Oracle Cloud Infrastructure, Oracle Cloud Applications 및 타사 서비스와 통합되는 서버리스 애플리케이션을 실행할 수 있습니다. 또한 오픈 소스 Fn 프로젝트 커뮤니티를 통해 효율성을 개선할 수 있죠.

GPU 워크로드 가속화에 대해 Oracle 전문가와 상담해 보세요.

GPU 인스턴스-사용 사례

딥 러닝 학습 및 추론을 위한 AI 인프라

OCI Data Science, 베어메탈 인스턴스, RDMA 기반 클러스터 네트워킹, NVIDIA GPU 등을 사용하여 AI 모델을 학습시킬 수 있습니다.


AI 학습 및 추론 이 다이어그램에서는 딥 러닝 모델 개발의 두 가지 단계인 '모델 훈련'과 '모델 인퍼런싱'을 설명합니다. 왼쪽의 모델 훈련에서는 훈련되지 않은 신경망 네트워크가 OCI Data Science, 베어메탈 컴퓨트, 로컬 스토리지, 클러스터 네트워킹이 지원하는 훈련 알고리즘에 입력됩니다. 새로운 기능을 활용해 훈련받은 모델이 훈련 알고리즘을 통해 출력됩니다. 모델 인퍼런싱 단계는 오른쪽에 설명되어 있습니다. 텍스트 입력을 받아 이미지를 생성할 수 있는 DALL-E 2 등 훈련된 모델을 예로 들 수 있습니다. 훈련된 모델에 텍스트 입력이 제공되면, 해당 모델이 이미지 출력을 제공합니다.

Virtual Desktop Infrastructure(VDI)

NVIDIA GPU를 활용하는 OCI Compute는 VDI를 위한 일관된 고성능을 제공합니다.


Virtual Desktop Infrastructure Virtual Desktop Infrastructure

GPU 인스턴스를 사용하는 CFD 및 고성능 컴퓨팅

OCI는 컴퓨터 보조 엔지니어링 및 전산 유체 역학을 활용하여 물체의 공기역학적 특성을 빠르게 예측할 수 있도록 지원합니다.


GPU 인스턴스를 사용하는 CFD 및 고성능 컴퓨팅 GPU 인스턴스를 사용하는 CFD 및 고성능 컴퓨팅

OCI 및 NVIDIA의 차세대 AI 모델 지원 방법 보기

Adept, Oracle 및 NVIDIA 서비스를 활용하여 모두를 위한 탁월한 AI 팀원 개발

"OCI와 NVIDIA가 제공하는 확장성 및 컴퓨팅 성능을 활용하여 우리는 현존하는 모든 소프트웨어 애플리케이션, 웹사이트, API를 사용할 수 있도록 신경망을 훈련하고 있습니다. 소프트웨어 제조업체들이 사전에 개발한 기능들을 기반으로 구축한 모델입니다."

David Luan, CEO
Adept

Oracle Cloud로 이전한 뒤 날씨 분석 정확도를 40% 개선한 National Grid

“Oracle Cloud Infrastructure 덕분에 수만 개의 모델을 처리할 수 있게 되었습니다. 그래서 알고리즘도 굉장히 빠르게 훈련시킬 수 있죠. OCI는 우리와 같은 일을 하는 기업들에게 있어 세계 최고의 플랫폼이라고 할 수 있습니다.”

James Kelloway, Energy Intelligence Manager
National Grid ESO

자사의 급격한 성장을 지원하고자 OCI를 선택한 SoundHound

"SoundHound는 OCI와 장기적인 파트너십을 맺고자 합니다. OCI가 제공하는 강력한 GPU 서비스를 우리 회사의 차세대 음성 AI 학습에 활용할 수 있게 되어 기쁩니다. SoundHound의 성장 과정에서 OCI가 큰 역할을 수행해 줄 것을 기대하고 있습니다."

James Hom, Cofounder 및 Vice President of Products
SoundHound

Softdrive, OCI Compute 및 NVIDIA A10를 활용한 차세대 워크스테이션 제공

"Softdrive는 비즈니스 컴퓨팅의 미래입니다. 클라우드 PC 시장에서는 성능이 전부입니다. 그리고 OCI 베어메탈 서버 기반의 NVIDIA GPU는 우리 고객들의 경험을 크게 개선해 주었습니다."

Leonard Ivey, Cofounder
Softdrive

Twist Bioscience, OCI 및 AI를 활용하여 단백질 이니셔티브 추진

"Twist는 OCI 베어메탈 인스턴스에서 구동되는 NVIDIA GPU 서비스를 활용하여 ParaFold 및 ESMFold AI 모델의 획기적인 성능 향상을 경험했습니다."

초당 2테라바이트의 성능을 제공하는 OCI 기반 WEKA

"Oracle Cloud Infrastructure는 Oracle 고객에게 XaaS 컴퓨팅 및 애플리케이션 서비스를 제공하고 AI/ML 및 GPU 워크로드를 포함해 사용자가 기대하는 것보다 훨씬 더 많은 것을 제공하는 최고의 계층 Hyperscaler 클라우드입니다."

Joel Kaufman
WEKA 수석 기술 마케팅 관리자

Oracle 도입 이후 더 적은 비용으로 더 많은 고객에게 서비스를 제공할 수 있게 된 Tango Eye

“AWS를 해지한 이후 우리의 데이터 흔적은 네 배가 되었지만 비용은 40% 절감할 수 있었습니다. OCI에서는 AWS 대비 33% 적은 GPU 컴퓨팅 용량을 사용하죠.”

Suren Gounder, CEO
Tango Eye

OCI에서 복잡한 시뮬레이션을 테스트하고 실행하는 Altair

"Oracle 클라우드 플랫폼과의 통합을 통해 당사는 최신 GPU 컴퓨팅 리소스, 세계적인 보안, 유연한 VMware 환경을 제공합니다. 궁극적으로 이를 통해 생산성이 향상되고 리소스 활용도가 최적화되며 출시 소요 시간이 단축됩니다."

Sam Mahalingam
Altair 최고 기술 책임자

2023년 11월 13일

OCI 기반 NVIDIA Grace Hopper Superchip 공급 계획 발표

Oracle Cloud Infrastructure, Vice President, Sagar Rawal

오늘 SC23에서 우리는 NVIDIA GH200 Grace Hopper Superchip이 구동하는 Oracle Cloud Infrastructure(OCI) Compute 인스턴스 출시 계획을 발표합니다. GH200은 NVIDIA H100 Tensor Core GPU(Hopper)에 연결된 Arm CPU(Grace)와 576GB의 고대역폭 메모리 공간으로 구성됩니다.

게시물 전문 읽어보기

OCI Compute 서비스 시작하기

30일 체험판으로 20개 이상의 상시 무료 클라우드 서비스를 체험해 보세요.

Oracle은 Compute, Storage, Autonomous Database 등 20개 이상의 서비스에 대해 무제한 Free Tier를 제공하며, 추가 클라우드 서비스를 체험해볼 수 있도록 미화 300달러 상당의 무료 크레딧을 제공합니다. 자세한 내용을 확인하고 지금 바로 무료 계정에 가입해보세요.

  • Oracle Cloud Free Tier에는 어떤 항목이 포함되어 있나요?

    • AMD 및 Arm Compute VM
    • 총 200GB의 블록 스토리지
    • 10GB의 객체 스토리지
    • Autonomous Database 2개(각 20GB)
    • 매달 10TB의 아웃바운드 데이터 전송
    • 10개 이상의 상시 무료 서비스
    • 30일 동안 사용 가능한 미화 300달러 상당의 무료 크레딧

실습 랩으로 학습하기

직접 경험하는 것 만큼 좋은 학습 방법은 없습니다. 튜토리얼 및 실습 랩에서 Oracle Cloud Free Tier, 이용 중인 Oracle Cloud 테넌시 또는 Oracle에서 제공하는 무료 실습 환경에서 선택된 솔루션을 사용할 수 있습니다.

  • 로드 밸런서를 사용하여 HA 애플리케이션 배치하기

    이 실습에서는 로드 밸런서를 사용하여 고가용성 모드로 구성된 OCI(Oracle Cloud Infrastructure)의 두 컴퓨트 인스턴스에 웹 서버를 배치합니다.

    지금 실습 랩 시작하기
  • OCI Core Services 시작하기

    컴퓨트, 네트워킹, 스토리지를 비롯한 기본 OCI 서비스를 살펴보세요.

    지금 실습 랩 시작하기
  • Oracle Container Engine for Kubernetes 배포하기

    이 실습에서는 Container Engine for Kubernetes 클러스터를 배치하고 이를 연결한 후 OCI CLI를 사용하여 샘플 애플리케이션을 실행합니다.

    지금 실습 랩 시작하기
  • Tomcat Java 애플리케이션을 OCI로 마이그레이션하기

    Tomcat을 Oracle Cloud Infrastructure로 마이그레이션하고 Autonomous Database에 연결하는 방법을 살펴보세요.

    지금 실습 랩 시작하기

추가 리소스

선점 가능한 용량, 버스트 가능한 인스턴스, 자동 스케일링, GPU, 유연한 컴퓨팅 등에 대한 자세한 내용을 확인해 보세요.

150가지 이상의 모범 사례 설계 살펴보기

Oracle의 아키텍트 및 기타 고객들이 엔터프라이즈 앱, HPC, 마이크로서비스, 데이터 레이크 등 다양한 워크로드를 배포하는 방식을 확인할 수 있습니다. 모범 사례를 파악하고, Built & Deployed 시리즈를 통해 다른 고객 아키텍트의 이야기를 듣고, Oracle의 '클릭하여 배포하기' 기능을 사용해 많은 워크로드를 배포할 수 있고, GitHub 저장소를 이용한 DIY도 가능합니다.

인기 아키텍처

  • MySQL Database 서비스를 사용하는 Apache Tomcat
  • Jenkins를 사용하는 Kubernetes 기반 Oracle Weblogic
  • ML(머신러닝) 및 AI 환경
  • Arm 환경의 Tomcat과 Oracle Autonomous Database
  • ELK 스택을 활용한 로그 분석
  • OpenFOAM를 사용하는 HPC

OCI를 통해 얻을 수 있는 절감 효과 확인하기

Oracle Cloud는 저렴한 가격을 전 세계적으로 동일하게 적용하며, 간편하고 다양한 사용 사례를 지원합니다. 예상 요금 절감액을 확인하려면, 비용 계산기를 사용하여 필요에 맞게 서비스를 구성해보세요.

차이를 경험해보세요

  • 1/4의 아웃바운드 대역폭 비용
  • 가격 대비 컴퓨트 성능 3배
  • 모든 리전에 동일하게 적용되는 저렴한 가격
  • 장기 약정 없는 저렴한 가격 정책

영업 팀에 문의하기

Oracle Cloud Infrastructure에 대해 자세히 알고 싶으신가요? Oracle의 전문가가 도와 드리겠습니다.

  • 다음과 같은 문의사항들에 답해드립니다.

    • Oracle Cloud를 시작하려면 어떻게 해야 하나요?
    • OCI에서는 어떤 종류의 워크로드를 실행할 수 있나요?
    • OCI가 제공하는 서비스 유형은 무엇인가요?