공식 발표

AI 혁신기업들, AI 개발 및 배포 관련 도전과제 해결 위해 오라클 클라우드 도입

국내 업체 트웰브 랩스를 비롯, 모달, 수노, 투게더 AI 등 글로벌 AI 선도 혁신기업, 차세대 AI 모델의 훈련 및 추론 위해 오라클 클라우드 인프라스트럭처(OCI)와 OCI 슈퍼클러스터 활용

대한민국2024년 3월 27일
Oracle Payroll

AI 혁신기업들이 OCI AI 인프라스트럭처(OCI AI Infrastructure)OCI 슈퍼클러스터(OCI Supercluster)를 활용해 생성형 AI 애플리케이션용 거대 언어 모델(LLM) 훈련 등 실제 서비스 환경에서 사용 가능한 AI의 개발과 배포를 지원한다고 밝혔다. 국내 업체인 트웰브 랩스(Twelve Labs)를 비롯해 모달(Modal), 수노(Suno), 투게더 AI(Together AI) 등 수많은 AI 기업들이 대규모 AI 훈련 및 추론을 위해 OCI AI 인프라를 활용하고 있다.

AI관련 수요가 급속도로 지속적으로 늘어나는 가운데, AI 기업들은 필요에 따라 GPU 인스턴스를 신속하고 경제적으로 확장해 주는 안전하고 안정적인 고성능 클라우드 및 AI 인프라를 필요로 하고 있다. OCI AI 인프라스트럭처를 통해 AI 기업들은 머신러닝(ML), 이미지 처리, 모델 훈련, 추론 연산, 물리 기반 모델링 및 시뮬레이션, 대규모 병렬 HPC 애플리케이션을 위한 고성능 GPU 클러스터를 활용할 수 있게 된다.

그렉 파블릭(Greg Pavlik) 오라클 클라우드 인프라스트럭처 AI 및 데이터 관리 서비스 부문 수석 부사장은 “AI 인프라 활용에 있어, AI 혁신 기업들에게 허용되는 오차범위는 최소의 수준이다.”며, “OCI는 다양한 AI 사용 사례에 대한 강력한 컴퓨팅 기능 및 상당한 비용 절감 이점을 제공한다. AI 업계 리더들이 OCI를 가장 많이 선택하는 이유도 바로 이 때문”이라고 말했다.

서버리스 GPU 플랫폼 기업인 ‘모달(Modal)’은 고객이 필요한 인프라를 구성 또는 설정할 필요 없이 생성형 AI 모델, 대규모 배치 작업, 작업 쿼리를 실행할 수 있게 해 준다. 전 세계 데이터 센터로의 신속한 확장을 지원하기 위해 모달은 고객이 보다 신속하고 비용 효과적인 방식으로 추론 작업을 할 수 있도록 OCI 컴퓨트(OCI Compute) 베어메탈 인스턴스를 활용했다.

모달의 에릭 베른하르트손(Erik Bernhardsson) 설립자 겸 CEO는 “OCI가 제공하는 독보적인 가격 경쟁력과 성능 덕분에 과도한 컴퓨트 비용을 지불하지 않아도 거대한 여러 AI 모델을 실행하는 데 필요한 확장성과 고성능을 제공할 수 있게 됐다.”며 “OCI 기반으로 모달을 운영하면 고객들은 완전한 서버리스 실행 혜택은 물론, 진정한 의미의 사용량 기반 지불 시스템의 이점도 누리게 된다.”고 설명했다.

수노(Suno)’는 선도적인 생성형 음악 제작 기업으로, 수노의 주력 제품은 몇 초 만에 현실적이고 개인화된 음악을 생성해 낸다. 수노는 독자적인 기계학습 모델을 훈련시키고, 차세대 생성형 음악 모델에 대해 늘어나는 수요를 지원하기 위해 OCI 슈퍼클러스터(OCI Supercluster)를 선택했다.

수노의 마이키 셜먼(Mikey Shulman) 창립자 겸 CEO는 “오라클과의 파트너십을 통해 얻을 수 있는 가장 큰 가치는 확장성에 있다.”라며 “오라클은 클라우드 제공업체가 우리의 성장 속도에 맞춰 함께 성장하고 확장하며 우리를 든든히 지원하고 있다는 확신을 준다. 사용자 관리, 디스크 관리, GPU 관리, 새로운 머신 추가 기능 등 새로운 OCI 슈퍼클러스터 관리 기능들을 통해 운영과정을 더욱 개선할 수 있었다”고 설명했다.

투게더 AI(Together AI)’는 생성형 AI 모델의 추론 및 훈련을 위해 가장 빠른 속도의 클라우드 플랫폼을 제공하는 연구 중심 AI 기업이다. 투게더 AI는 강력한 성능을 비롯해 내장형 보안, 최상의 엔지니어링 지원 서비스 등을 이유로 OCI를 선택했다.

투게더 AI의 비풀 베드 프라카시(Vipul Ved Prakash) 창립자 겸 CEO는 “우리의 가파른 성장을 지원할 클라우드 제공업체 선정에 있어 가장 중요한 요소는 보안이었다.”며, “많은 스타트업 및 기업 고객들이 업계 선도적인 성능을 제공하는 우리의 추론, 미세 조정, 훈련 솔루션의 도입을 원하고 있다. OCI의 신뢰할 수 있는 보안 및 안정성 덕분에 우리는 신속한 확장을 통해 이와 같은 수요 증가를 지원할 수 있었다.”라고 덧붙였다.

대한민국의 AI 스타트업인 트웰브 랩스(Twelve Labs)는 멀티모달 비디오 이해를 위한 파운데이션 모델을 구축하는 회사다. 사용자들은 자연어를 사용해 특정 장면에 대한 비디오를 검색하고, 프롬프팅을 통해 비디오에 대한 정확하고 통찰력 있는 텍스트를 생성할 수 있으며, 맞춤형 카테고리를 기반으로 비디오를 자동 분류할 수 있다. 트웰브 랩스는 OCI 컴퓨트 베어메탈 GPU와 OCI가 제공하는 노드 간 고대역폭 덕분에 대규모 모델들을 고속으로 훈련시킬 수 있게 됐다.

트웰브 랩스의 이재성 창립자 겸 CEO는 “OCI AI 인프라스트럭처를 통해 우리는 모델을 품질 또는 속도에 대한 타협 없이 대규모로 훈련시킬 수 있게 됐다.”라며 “OCI는 비디오 이해를 더욱 고도화하기 위해 필요한 성능, 확장성, 클러스터 네트워킹을 제공하고, 동시에 AI 모델 배포에 드는 시간과 비용을 크게 줄여준다.”라고 덧붙였다.

AI 기업의 혁신을 더욱 빠르게 돕기 위해 새로운 기능들을 제공하는 OCI AI 인프라스트럭처
OCI 컴퓨트 가상머신(OCI Compute virtual machines) 및 베어메탈 GPU 인스턴스는 컴퓨터 비전, 자연어 처리, 추천 시스템 등을 위한 애플리케이션을 구동할 수 있다. OCI 슈퍼클러스터는 레이턴시가 극히 낮은 클러스터 네트워킹, HPC 스토리지, OCI 컴퓨트 베어메탈 인스턴스를 제공해 LLM 등 크고 복잡한 모델을 대규모로 훈련하게 해 준다. 오라클의 전담 엔지니어링 지원 팀은 성공적인 배포를 보장하기 위해 계획 수립에서 실행에 이르는 전체 배포 과정에서 고객과 협업한다.

추가 자료

문의처

  • 한국오라클 홍보 담당 케첨

  • skr-oracle@ketchum.com
  • 정미영 이사 / 010-2050-3834 조서겸 과장 / 010-9498-8808 심정현 과장 / 010-7376-1123

오라클 소개

오라클은 완전한 통합 애플리케이션 제품군과 보안 역량, 자율운영 기술 기반의 오라클 클라우드 인프라스트럭처를 제공한다. 오라클(NYSE: ORCL)에 관한 자세한 정보는 www.oracle.com 에서 확인 가능하다.

상표

Oracle, Java, MySQL및 NetSuite는 Oracle Corporation의 등록된 상표이다. NetSuite는 클라우드 컴퓨팅의 새로운 시대를 개척한 최초의 클라우드 회사다.