온프레미스의 한계, 클라우드의 가능성: 리더들을 위한 AI 전략

Oracle, Office of Technology and Innovation, Director, CISSP, Gilbert Traverse | 2025년 5월 6일

40년 이상의 업계 선도적 기업용 애플리케이션들의 역사 속에서 고객사들 중 다수는 자사의 비즈니스 운영에 Oracle Applications Unlimited family(Edwards, Peoplesoft, Siebel, and Oracle E-Business Suite) 또는 SAP 등의 경쟁사 솔루션을 활용해 왔습니다. 최근 몇 년 간 AI의 폭발적 성장으로 인해 많은 경영진들이 기존의 애플리케이션 내에서 AI를 활용하는 방법을 모색하고 있습니다. 올해 초 Forbes 보도에 따르면 전 세계 대기업 10곳 중 6곳이 생성형 AI를 활용하고 있습니다. 개중 74%는 상당한 투자 수익을 거두고 있으며, 45%는 직원 생산성이 두 배로 증가했습니다.1 AI는 실질적인 가치를 제공하는 기술로서 그 힘을 활용하는 기업들이 훨씬 더 빠르고 효율적으로 움직일 수 있도록 지원합니다. 이러한 생산성 향상은 중소기업도 경쟁사들과 맞서고 효율적 확장을 통해 시장에서 앞서나갈 수 있도록 도움을 주는 일종의 균형추 역할을 수행할 수 있습니다. 그러나 AI 도입이 확대되고 효율성 향상이 보편화됨에 따라 AI 도입을 미루는 기업들은 경쟁사에 빠르게 뒤처질 수도 있습니다.

AI 도입 경로 선택하기

오늘날 기업의 리더들은 이사회가 부여한 AI 기반 시장 경쟁에서 승리하기 위한 AI 전략을 채택해야 한다는 임무를 수행하고 있으며, 시장 변화에 발맞추고 혼란을 피하기 위해 신속히 움직여야만 합니다. Oracle의 Applications Unlimited 프로그램은 2035년까지 계속 지원될 예정이지만, 리더들은 기존 환경에 AI를 추가하는 것이 나은지, 아니면 AI가 이미 내장된 최신 플랫폼으로 마이그레이션할지 결정해야 합니다. 예를 들어, Oracle Fusion Cloud Applications는 재무, HR, 공급망, CX 등을 망라하는 150개 이상의 내장형 AI 기능이 탑재된 완전한 최신 모범 사례 제품군을 제공합니다. 또한 리더들은 Fusion Applications의 빠른 혁신 속도와 분기별 업데이트 주기를 활용해 핵심 비즈니스 프로세스 내에서 AI 전략을 실행하며 투자 효용을 극대화할 수 있습니다.

기존 플랫폼에서 Oracle Fusion Applications으로의 마이그레이션은 고도로 커스터마이징된 시스템을 사용해 온 기업에게는 크게 어렵거나 복잡해 보일 수도 있지만, 효과적인 AI 도구를 구축하는 것은 그보다도 훨씬 더 어렵습니다. AI의 여러 잠재적 이점에도 불구하고 많은 기업들은 여전히 AI 관련 비전을 실행하는 과정에서 어려움을 겪고 있습니다. Wall Street Journal의 최근 기사에 따르면, 많은 경영진이 AI에 대한 전망은 여전히 낙관적이만 초기 예상보다 훨씬 더 많은 노력이 필요하다고 답했습니다.2 시장에는 다양한 AI 서비스와 도구가 존재합니다. 그러나 효과적인 AI 전략을 실행하기 위해서는 데이터 과학 기술, 개발 전문성, 특수 인프라, 깊은 비즈니스 프로세스 이해도, 신뢰할 수 있는 고품질 데이터 등이 필요합니다. 실질적인 가치를 창출하는 성공적인 AI 전략을 실행하는 데 필요한 역량 중 일부를 갖춘 기업은 많겠지만, 모두 갖추고 있는 기업은 거의 없습니다.

공통적인 AI 도전 과제

리더들은 AI 도입 과정을 심도있게 진행할수록 공통적인 도전 과제들에 직면하게 됩니다. 서로 다른 이기종 시스템들이나 고도로 커스터마이징된 온프레미스 애플리케이션들을 사용 중인 경영진은 AI 여정을 시작하기 위한 데이터 정리에 어려움을 겪습니다. 데이터를 통합했다고 가정하더라도, 과거 데이터로 모델을 훈련시키는 것은 처음에는 쉬워 보일 수 있지만 비즈니스 프로세스 변경, 예외 사항, 데이터 세트의 이상값 등이 AI 정확도에 영향을 미칠 수 있습니다. 그러한 요소들은 AI 도구를 사용할수록 모델 드리프트를 유발하는 원인이 될 수도 있습니다. 또한 AI 전문 인력에 대한 수요가 높아 우수한 AI 인재를 찾고 유치하고 유지하기가 어렵습니다. 성공적인 AI 프로젝트를 위해 필요한 비즈니스 프로세스를 심층적으로 파악하는 과정에서는 AI 도구의 운영 방식에 대해 서로 다른 비전을 가지고 있을 수 있는 부서별 리더들의 동의가 이루어져야 합니다.

AI 모델을 실행하는 그래픽 처리 장치(GPU)는 공급망 부족의 영향을 받고 있습니다. GPU는 막대한 전력을 필요로 하므로 기업의 지속가능성 목표에 영향을 미칠 수 있습니다. 또한 복잡한 작업을 수행하기 위해 여러 GPU를 동시에 가동하려면 무손실 네트워킹이 필요합니다. 이상의 모든 요인들은 AI 솔루션 구현 과정에서 극도로 높은 비용을 발생시킬 수 있습니다.

AI 구현의 기술적 도전 과제 외에도, EU AI Act3 및 Canada’s Artificial Intelligence and Data Act4와 같은 최근 규제 이니셔티브, 그리고 California Consumer Privacy Act5 및 EU General Data Protection Regulation6과 같은 기존 개인정보 보호법은 관련 규제를 준수하지 않는 방식으로 AI를 구현할 경우 규제 위험을 초래할 수 있습니다. 채용 관행에 AI를 활용하는 것도 규제 기관으로부터의 위험과 감시를 증가시킬 수 있습니다.7 결과적으로 IT 임원들은 급변하는 기술, 인재, 규제 환경 속에서 기업의 AI 전략을 실행하고 가치를 창출해야 한다는 어려운 도전 과제에 직면해 있습니다.

성공적인 AI 전략 수립하기

성공적인 AI 전략을 수립하기 위해서는 기술적 해결책에만 집중해서는 안 됩니다. AI로부터 최대의 가치를 얻기 위한 효과적인 전략은 다각적이어야 합니다. 미국 National Bureau of Economic Research의 연구 결과에 따르면, AI를 활용해 생산성 향상을 극대화하기 위해서는 새로운 AI 도구를 접하는 개인 사용자들을 위한 보완적 프로세스 개발, 조직 구조 조정, 적응력 등이 필요합니다.8

효과적인 AI 전략은 단순히 기존 프로세스에 AI를 추가하는 것이 아니라 핵심 비즈니스 프로세스에 AI를 통합하는 것과 같은 새로운 사고방식을 필요로 합니다. 생성형 AI 도구는 분명한 가치를 제공하지만, 고도로 커스터마이징된 레거시 애플리케이션을 보유한 기업들은 AI를 염두에 두고 설계되지 않은 프로세스에 생성형 AI 도구를 적용해야 하므로 획기적인 혜택을 누리기는 어려울 수 있습니다.

또한 경영진은 임베디드 AI 솔루션을 선택할 때 데이터 프라이버시 및 보안에 집중해야 합니다. 일부 AI 공급업체는 계약상 사용자에게 익명화된 데이터 마이닝을 허용하도록 의무화해 기업 데이터와 지적 재산을 수익화합니다. 그러나 데이터 변동성으로 인해 여러 데이터 세트를 통합하더라도 최소한의 이점만을 누릴 수 있습니다.

또한 성공적인 AI 전략은 반드시 인간을 AI 프로세스 루프에 포함시켜야 합니다. 인간이 의도적으로 AI 도구를 켜고, 추천을 수락 또는 거부하고, AI 생성 콘텐츠를 수정할 수 있는 능력을 부여하는 것 등이 이에 포함됩니다. NIST AI Risk Management Framework에 따르면 AI 프로세스의 루프에 인간이 포함되면 공정하고 공평한 결과를 촉진하는 데 도움이 됩니다.9

마지막으로, AI 전략은 유연하고 미래 지향적이어야 합니다. AI 혁신 기술의 도입은 인터넷이나 스마트폰과 같은 과거의 혁신적 기술들보다 훨씬 빠르게 진행되고 있습니다. 2년 전 생성형 AI가 등장해 대중을 위한 AI 민주화를 이루었고 데이터와의 자연어 상호작용을 가능케 했습니다. 그로부터 1년 뒤에는 검색 증강 생성(RAG)과 같은 도구를 통해 맞춤형 모델 훈련 없이도 문맥에 맞는 답변을 제공하는 AI가 등장했습니다. 그리고 이제 새로운 유형의 AI인 에이전틱 AI가 머신러닝, 고급 분석, 문맥 기반 생성형 AI의 힘을 결합해 프로세스를 자동화하고 향상된 비즈니스 가치를 제공할 것입니다. AI 기술과 분야의 접점인 에이전틱 AI는 가장 성숙하고 정교한 기업을 제외한 모든 기업에게 도전적인 과제가 될 것입니다. 안타깝게도 이러한 복잡성으로 인해 CIO 매거진은 자체적으로 AI 에이전트를 구축하려는 기업 중 약 75%가 실패할 것이라고 예측했습니다.10

따라서 경영진은 서비스형 소프트웨어(SaaS) 기술의 빠른 혁신 및 업데이트 주기를 바탕으로 신속하고 실질적인 AI 생산성 향상을 위해 내장형 AI를 갖춘 SaaS 우선 전략을 고려해야 합니다. 간단히 말해, AI의 복잡성을 완화하기 위해서는 구매해서 사용할 수 있는 요소를 직접 구축하지 않는 것이 좋습니다.

Oracle의 지원 방법

AI 공급업체 중에서도 Oracle은 내장형 AI 기술을 활용해 경영진이 효과적인 AI 전략을 구현할 수 있도록 지원할 수 있는 독보적인 입지를 구축했습니다. Oracle은 예측 AI 및 생성형 AI와 AI 에이전트 기능을 일상적인 프로세스 흐름에 직접 통합함으로써 Fusion Applications의 역량을 지속적으로 확장하고, 이를 통해 AI를 민주화해 데이터 과학자가 아닌 모든 최종 사용자들도 AI 혜택을 누릴 수 있도록 지원합니다. Oracle AI Agent Studio for Fusion Applications은 고객이 특정 요구사항에 맞춰 생성형 AI 기능과 AI 에이전트를 생성, 맞춤화, 검증, 배포할 수 있는 도구를 제공하는 디자인-타임 환경입니다. 고도로 커스터마이징된 레거시 애플리케이션과 달리 Fusion Applications의 통합 데이터 모델은 효과적인 AI 사용에 필요한 일관적인 고품질 데이터를 제공합니다. 또한 AI 실행을 지원하는 Oracle Cloud Infrastructure(OCI)의 컴퓨팅 서비스는 Oracle Fusion Applications에 포함되어 있으며 추가 비용 없이 사용할 수 있습니다.

CIA가 첫 번째 고객이었던 Oracle은 그 DNA에 보안의 중요성이 새겨져 있습니다. Oracle Fusion Applications의 AI는 고객 데이터를 Oracle 또는 타사 LLM과 공유할 수 없습니다. AI 도구에 인간이 개입할 수 있도록 허용하고 분기별 릴리스 주기를 유지 중인 Oracle Fusion Applications의 AI는 인간 중심적이고, 미래 대비를 마쳤고, 즉시 구현할 수 있습니다.

혁신이 가속화되고 있으며 혁신에 뒤처질 위험이 존재하는 환경에서 경영진은 AI 전략 실행 과정에서 Oracle Fusion Applications을 고려해 보는 것이 좋습니다. Oracle은 기업이 현대적 모범 사례를 채택하고, AI 기반 분석을 활용하고, 즉시 사용 가능한 에이전틱 AI의 이점을 누릴 수 있도록 지원합니다. AI가 내장된 Oracle Fusion Applications은 기업이 자사에 특화된 사용 사례에 AI 관련 노력을 집중할 수 있도록 지원합니다. 또한 Oracle Fusion Applications은 리더들이 별도의 AI 도구를 구축해 기존 애플리케이션에 추가하지 않고도 자사의 조직 전반에 AI의 가치를 실현할 수 있는 경로를 제공합니다.

다음 단계

귀사에서 Oracle Fusion Applications에 내장된 AI를 활용해 다음 단계를 진행할 준비를 마치셨다면, Oracle Cloud Applications 영업팀을 통해 언제든지 문의해 주세요.

Fusion Applications의 AI에 대한 자세한 내용은 Oracle AI for Fusion Applications 페이지를 참고하세요. Oracle Cloud Applications을 지원하는 기반 기술에 대한 추가 정보를 확인하려면 소개 페이지부터 이어지는 블로그 게시물 시리즈를 살펴보세요.

본 게시물의 저자는 고객의 기술 혁신을 통한 비즈니스 현대화를 지원하는 North American Applications Office of Technology and Innovation 소속입니다. 해당 팀은 AI, SaaS, 플랫폼 기술, 운영, 데이터 관리 분야와 관련된 전문 지식과 비전을 제공합니다.

인공지능 혁신의 변곡점

온프레미스에서 Fusion Applications으로 전환해 경쟁 우위 확보하기

1 "74% of Early AI Adopters Already Have ROI," Forbes, 2024년 8월 8일

2 "AI Work Assistants Need a Lot of Handholding," The Wall Street Journal, 2024년 6월 25일

3 The EU Artificial Intelligence Act, Future of Life Institute

4 Artificial Intelligence and Data Act, Government of Canada

5 California Consumer Privacy Act, State of California

6 "Legal framework of EU data protection," European Commission

7 "A global outlook on 13 AI laws affecting hiring and recruitment," HR Executive, 2024년 6월 18일

8 "Artificial Intelligence and the Modern Productivity Paradox: A Clash of Expectations and Statistics," National Bureau of Economic Research, 2017(PDF)

9 "AI Risk Management Playbook: Govern," National Institute of Standards and Technology

10 "Thinking of building your own AI agents? Don’t do it, advisors say,” CIO, 2024년 9월 19일