데이터베이스, 클라우드 인프라, 애플리케이션 전반에 AI를 도입하는 Oracle

Oracle이 자사의 인프라, 개발 도구, 애플리케이션용 신규 인공지능 오퍼링을 대거 발표했습니다.

Aaron Ricadela | 2023년 9월 19일


Oracle은 지난 6월 생성형 AI 시장에 본격적으로 진입했습니다. 자사의 고객에게 대규모 언어 모델(LLM)을 제공하기 위한 계약을 체결하였고, 복잡한 시스템을 학습시켜야 하는 스타트업의 클라우드 컴퓨팅을 지원하기 위해 수십억 달러를 투자할 것이라고 발표했습니다.

이후 3개월간 Oracle은 자사의 클라우드 인프라, 전자 건강 기록(EHR) 소프트웨어, 데이터 분석 도구, ERP, 고객 서비스 소프트웨어 전반에 강력한 AI 기술을 적용해 왔습니다. AI 업체들과 체결한 비즈니스 계약 총액은 40억 달러로 두 배 증가하였습니다.

"약 1년 전에 등장한 생성형 AI는 모든 것을 변화시키고 있습니다. Oracle의 모든 것들을 확실히 변화시키고 있죠." Oracle의 Chairman 겸 Chief Technology Officer인 Larry Ellison은 9월 19일 라스베이거스에서 열린 CloudWorld 컨퍼런스 기조연설을 통해 이야기했습니다.

Oracle은 올해의 CloudWorld 컨퍼런스에서 생성형 AI 클라우드 서비스, 보건의료 소프트웨어의 인공지능 개선 사항, AI 시스템이 사용하는 비정형 및 반정형 데이터를 저장하고 신속히 검색할 수 있는 새로운 데이터베이스 기능 등을 연달아 공개했습니다. 또한 Oracle은 마케터가 캠페인을 생성하거나 서비스 상담원이 대화를 요약할 수 있는 고객 관리 소프트웨어의 개선 사항을 발표했고, 비즈니스 데이터 분석가용 생성형 AI 기반 어시스턴트도 선보였습니다.

생성형 AI 시스템은 인터넷과 개인 데이터 세트로부터 수집한 패턴을 학습하고 사용자가 새로운 인사이트를 얻을 수 있도록 지원합니다. 생성형 AI 시스템 분야에는 현재 활발한 개발과 투자가 이루어지고 있으며, 대규모 언어 모델을 학습시키고 실행하는 데 필요한 컴퓨팅 성능을 확보하기 위한 경쟁도 치열하게 펼쳐지고 있습니다. 생성형 AI 모델은 의료 진단, 시장 분석 요약, 대화 분석, 텍스트 및 이미지 생성, 코드 작성 등에 기여할 수 있습니다. 하지만 LLM은 대부분의 기업이 자체적으로 구축한 데이터 센터의 컴퓨팅 성능을 뛰어넘는 방대한 양의 병렬 처리 능력 및 빠른 데이터 통신을 필요로 합니다. 따라서 갈수록 많은 생성형 AI 모델 개발사들이 개발에 필요한 네트워크와 특수 칩을 보다 간단히 이용 가능한 퍼블릭 클라우드에서 개발 작업을 진행하고 있습니다.

약 1년 전에 등장한 생성형 AI는 모든 것을 변화시키고 있습니다. Oracle의 모든 것들을 확실히 변화시키고 있죠.”

Larry Ellison Oracle Chairman 겸 Chief Technology Officer

Oracle은 기업용 생성형 AI 도구를 제공하기 위해 자사의 클라우드에서 NVIDIA의 가장 강력한 AI 칩인 H100 AI 프로세서의 사용을 확대하고, 해당 칩이 Oracle의 클라우드 컴퓨팅 서비스에 제공하는 네트워킹 속도 및 비용상의 이점을 중점적으로 홍보하고 있습니다. 고객들의 반응도 뜨겁습니다. AI 개발사들은 이미 Oracle Cloud Infrastructure(OCI)에서의 AI 학습을 위해 Oracle과 총 40억 달러 이상의 계약을 체결했습니다. 이는 작년 5월 31일, Oracle의 지난 회계연도 4분기 말 대비 두 배에 달하는 금액입니다.

Ellison은 Oracle의 고유한 클라우드 컴퓨팅 인프라를 사용하면 데이터 처리가 이루어지는 지점으로 빠르게 데이터를 이동시키고, AI 모델의 학습이 진행되는 동안 프로세서 간에 신속히 데이터를 전송할 수 있다고 설명했습니다.

또한 Oracle은 보유 중인 자체 데이터를 추가하여 표준 AI 모델을 신속하고 경제적으로 미세 조정함으로써 특정 분야와 관련된 AI의 예측 기능을 개선하고자 하는 기업들의 수요에도 대응하고 있습니다. "기업들은 각자 고유한 학습 데이터를 사용하고 싶어합니다." Ellison의 말입니다. "그와 관련된 작업을 수행하는 가장 좋은 방법은 추가 학습 데이터를 Oracle 벡터 데이터베이스에 저장하는 것입니다."

"Oracle의 클라우드 서비스를 사용하면 타사 클라우드보다 훨씬 빠르고 저렴하게 AI 모델을 학습시킬 수 있습니다." Ellison은 말했습니다.

생성형 AI를 성공적으로 도입한 기업은 큰 수확을 얻을 수 있습니다. Goldman Sachs는 생성형 AI가 직장인의 생산성을 높이고, 신약 개발을 촉진하고, 소프트웨어 개발을 가속화함으로써 향후 10년간 전 세계 GDP를 7%(약 7조 달러) 끌어올릴 수 있다고 예측했습니다. 컨설팅 업체인 McKinsey & Co.는 생성형 AI 및 관련 기술이 2030년부터 2060년까지 영업, 마케팅, 코딩, R&D 등의 분야에서 현재 수행되는 업무 중 절반을 자동화함으로써 전 세계 GDP에 최대 4조 4,000억 달러를 추가할 수 있다고 예측했습니다.

지원 및 분석

Oracle은 다양한 AI 기반 도구들을 제공 중에 있습니다. 지난 6월 Oracle은 캐나다 토론토에 본사를 둔 대규모 언어 모델 개발 스타트업인 Cohere와 협력 관계를 체결했습니다. Oracle은 Cohere의 기술에 기반한 AI 기능을 OCI 고객들에게 제공하고, Cohere의 AI 모델 개발에 투자할 계획입니다. 다음은 Oracle이 양사의 협력 관계에 기반하여 처음으로 선보이는 오퍼링 목록입니다.

  • AI Vector Search는 Oracle Database 23c에 새롭게 추가된 기능 모음으로서, 문서, 이미지 및 기타 비정형 파일에 대한 시맨틱 정보를 벡터(텍스트의 숫자적 표현) 방식으로 저장함으로써 대규모 언어 모델이 서로 밀접한 관련성이 있는 용어들을 빠르게 찾을 수 있도록 해 줍니다. Oracle Database 사용자는 LLM을 개별 기업의 비즈니스 데이터와 결합하여 특정 지식 분야에 대한 보다 정확한 답변을 제공하는 기술인 검색 증강 생성(retrieval-augmented generation, RAG)을 함께 활용할 수 있습니다. 또한 AI Vector Search는 APEX를 비롯한 Oracle Database 개발 도구에 생성형 AI 기능을 추가하여 사용자가 직접 코딩할 필요 없이 애플리케이션과 쿼리를 작성할 수 있도록 함으로써 개발자의 생산성을 높여 줍니다.
  • OCI Generative AI는 기업이 API를 사용하여 Cohere의 LLM을 자사의 애플리케이션과 통합하고, Oracle의 빠르고 비용 효율적인 OCI Supercluster 서비스를 통해 해당 모델을 실행할 수 있도록 지원합니다. 본 서비스는 먼저 테스트용 버전으로 제공될 예정입니다. 추후 정식 버전이 출시되면 AI Vector Search와 함께 사전 학습된 AI 모델과 고객의 자체 데이터를 결합하여 활용할 수 있는 RAG 애플리케이션 구축에 사용될 것입니다. 본 생성형 AI 서비스는 Oracle Cloud Applications, NetSuite ERP 및 헬스케어 애플리케이션의 신기능 개발에도 활용됩니다.
  • 보다 강력한 AI 컴퓨팅 성능: Oracle은 자사의 클라우드 인프라 서비스를 통해 NVIDIA의 최신 H100 칩을 보다 광범위하게 제공할 계획입니다. H100 GPU는 NVIDIA의 전 세대 칩인 A100 대비 사용자의 프롬프트에 답하기 위한 추론 성능은 최대 30배, 학습 성능은 4배 향상되었습니다. Oracle의 고객들은 OCI Supercluster의 고성능, 저지연 네트워크를 통해 수만 개의 H100 칩을 연결하여 AI 모델을 학습시킬 수 있습니다. H100 칩은 미국 일리노이주 시카고 및 영국 런던의 Oracle 데이터센터에서 우선적으로 사용 가능합니다. 또한 OCI는 소규모 모델 학습 또는 AI 추론을 위한 NVIDIA의 L40S GPU도 함께 제공할 계획입니다.
  • Oracle Clinical Digital Assistant는 Oracle의 전자 건강 기록과 연동되어 의사가 환자와 대화하는 동안 자동으로 메모를 작성하고, 의약품이나 실험실 검사 주문, 후속 방문 예약 등의 관련 조치를 제안하는 음성 및 화면 기반 사용자 인터페이스를 통해 의료진의 서류 작업 부담을 감소시켜 줍니다. 또한 의사는 키보드 입력 대신 음성 입력을 통해 환자의 EHR에서 MRI 결과 및 기타 요소들을 불러올 수 있습니다. Oracle Clinical Digital Assistant 소프트웨어는 내년에 출시될 예정입니다.
  • Oracle Advertising and Customer Experience는 마케터 및 서비스 상담원용 서비스로서, 생성형 AI를 활용한 고객 응답 초안 작성, 도움말 문서 작성 및 검색, 고객 상호작용별 주요 정보 요약 등의 새로운 기능들이 추가되었습니다. 마케팅 담당자는 본 서비스가 제공하는 단계별 AI 기반 프로세스를 통해 소속사의 브랜드 가이드라인에 부합하는 캠페인 초안을 작성할 수 있습니다.
  • Oracle Analytics Cloud는 데이터 시각화 및 협업을 위한 플랫폼으로서, 분석가들이 일반적인 언어를 사용하여 데이터와 상호작용하고, AI가 생성한 응답을 보고 들을 수 있는 기능이 추가되었습니다. 또한 텍스트 및 이미지 파일에서 주요 정보를 자동으로 읽고 가져올 수 있는 기능이 추가될 예정입니다.
생성형 AI는 지금까지 개발된 것들 중에서도 가장 중요한 컴퓨터 기술일까요? 그럴지도 모르지요.” Ellison은 말했습니다. “조만간 분명히 알 수 있을 겁니다. 그것만은 확실합니다.

Larry Ellison Oracle Chairman 겸 Chief Technology Officer


Oracle Connect 기사 더 읽어보기