하이브리드 클라우드 인프라, AI 시장을 지배할 예정

Liam Yu
Senior Product Solutions Marketing Manager, Integrated Systems

2025년 2월 11일

Hybrid Cloud Infrastructures Set to Dominate AI Market

약 100년 전, 오스트리아의 경제학자 요제프 슘페터(Joseph Schumpeter)는 '창조적 파괴'라는 개념을 소개했습니다. 이 개념은 새로운 혁신과 기술이 기존 기술과 산업을 대체하고 구식화시키는 과정을 설명합니다. 이는 혁신을 중심으로 한 경제 발전과 성장을 강조하며, 기존 산업과 경제 구조의 해체나 변혁을 초래하고 새로운 산업과 구조를 창출하는 지속적인 과정입니다.

때로는 이러한 변화는 철도에서 자동차, 항공 여행으로의 전환처럼 서서히 진행됩니다. 다른 때는 여러 단계가 한 번에 몰아치며 급격히 진행됩니다. ChatGPT가 그랬고, 이제 DeepSeek라는 파괴자가 글로벌 AI 시장을 뒤흔들며 대규모 언어 모델의 미래, AI 비용 및 도입에 대한 활발한 논쟁을 촉발시키고 있습니다. 그리고 다시 한 번 창의적 파괴 과정을 초고속으로 가속화시키고 있습니다.

사진 제공: DeepSeek 최고 경영자의 수학 천재에서 글로벌 혁신가로의 여정 © Rachel Mendelson/WSJ, Getty Images

그러나 모든 경우에서, 어떤 형태의 창조적 파괴가 성공하려면 보다 본질적이고 근본적인 ‘범용 기술(general-purpose technology)’의 뒷받침이 필요합니다. 이는 한 세대에 한 번 나올까 말까 한 혁신들이 사회의 다양한 측면을 근본적으로 변화시킬 때마다 나타나는 공통된 특징입니다. 스마트폰, 컴퓨터, 인터넷부터, 더 거슬러 올라가면 전기와 증기기관까지—이러한 기술들이 그 예입니다.

이제 인공지능(AI)은 다음 범용 기술로 자리 잡을 준비를 마쳤으며, 그 영향력은 이미 우리의 일상생활 전반에 걸쳐 나타나고 있습니다. 하지만 AI가 진정으로 성공하기 위해서는 여러 범용 기술들의 뒷받침이 필요합니다. 이 경우에는, 민첩하고 탄력적인 데이터 인프라가 그 핵심입니다.

물론, 인간적인 측면도 함께 고려해야 합니다. IT 분야에서 일하는 우리들 대부분은 이러한 변화의 영향을 미리 예측하고 대비하는 데 익숙하지 않은 경우가 많습니다. 종종 과거의 경험과 기술에 의존하며, 변화가 이처럼 빠르게 일어날 것이라 상상하기 어려워합니다. 특히 그 변화에 위험과 불확실성이 따를 때는 더욱 그렇습니다. 그래서 많은 사람들이 인공지능의 변화 속도를 제대로 이해하기 어려워하고, 그보다 더 어려운 것은 AI가 즉각적으로 요구하게 될 워크로드를 뒷받침할 데이터 인프라의 요구 조건을 파악하는 일입니다.

다행히도 우리는 위험을 분산시킬 수 있습니다.

하이브리드 클라우드를 통한 AI의 테이블 설정

인프라에 하이브리드 클라우드 접근 방식을 사용하면 비즈니스 모델을 수정하고, 비용을 평가하고, AI 기술이 경쟁 우위를 강화하는 방법에 대한 결정을 내릴 때 "빠르게 실패"할 수 있습니다.

따라서 하이브리드 클라우드 인프라 접근 방식이 AI를 사용하는 비즈니스에 어떻게 수많은 전략적 이점을 제공하는지 자세히 살펴보겠습니다.

확장성 및 유연성: 하이브리드 클라우드 환경은 기업이 AI 워크로드를 효율적으로 확장할 수 있도록 지원합니다. 퍼블릭 클라우드 서비스는 대규모 데이터 세트 학습과 같은 리소스 집약적인 작업을 관리할 수 있는 반면, 프라이빗 클라우드는 특히 지리적 지역과 국경에 걸쳐 엄격한 규정 준수가 필요한 민감한 데이터 및 애플리케이션을 처리합니다.
비용 효율성: 광범위한 AI 프로젝트를 위한 인프라를 구축하고 유지 관리하는 데는 비용이 많이 들 수 있습니다. 하이브리드 클라우드 모델을 통해 기업은 종량제 방식으로 퍼블릭 클라우드 리소스를 사용하여 지출을 최적화할 수 있으므로 상당한 초기 투자를 피할 수 있습니다. 이는 기업이 실험하고 방향을 전환할 때 특히 중요합니다.
향상된 데이터 관리: 강력한 데이터 스토리지 및 관리는 AI의 성공을 위해 필수적입니다. 하이브리드 클라우드 솔루션은 포괄적인 데이터 관리 기능을 제공하여 다양한 환경에서 데이터를 효율적으로 저장, 처리 및 액세스할 수 있도록 합니다. 그러나 데이터 주권을 유지하면서 실시간으로 워크로드를 마이그레이션할 수 있는 유연성이 있어야 합니다.
보안 및 규정 준수: 하이브리드 클라우드는 민감한 데이터를 관리하기 위한 안전한 프레임워크를 제공합니다. 프라이빗 클라우드는 규정 준수 요구 사항을 충족하는 데 사용할 수 있으며 고급 보안, DR 및 비즈니스 연속성 옵션을 사용할 수 있습니다. 퍼블릭 클라우드는 민감한 워크로드를 줄일 수 있는 유연성을 제공하지만, 둘 다 대규모 언어 모델(LLM)에 대한 액세스를 활용합니다.
리소스 최적화: AI 프로젝트는 종종 GPU나 TPU와 같은 특수 하드웨어가 필요합니다. 하이브리드 클라우드는 기업이 이러한 리소스를 필요에 따라 활용할 수 있도록 하여, 하드웨어 구매 및 유지보수 비용을 절감하고 리소스 활용 효율성을 극대화합니다. 이는 기업이 AI 아키텍처의 새로운 혁신을 실험하고 적용하여 경제적 우위를 확보하는 과정에서 특히 중요합니다. 예를 들어, 강화 학습, 전문가 혼합 모델(MoE), 다중 헤드 잠재 주의, 증류 기술 등이 이에 해당됩니다.
혁신과 민첩성: 하이브리드 클라우드를 활용하면 기업은 기존 인프라에 얽매이지 않고 새로운 AI 기술과 솔루션을 빠르게 실험할 수 있습니다. 이는 혁신을 촉진하고, 변화하는 시장의 요구에 민첩하게 대응할 수 있도록 도와줍니다. 이런 이유들 때문에 Hitachi Vantara에서는 많은 기업들이 VMware, Azure, Red Hat OpenShift, Google 등 다양한 하이브리드 클라우드 환경을 도입해 AI 기반의 고객 경험을 강화하는 동시에 총 소유 비용(TCO)을 절감하는 사례를 많이 보고 있습니다.

예를 들어, 2024년 Red Hat Summit(그리고 2025년에도 다시 한 번)에서 AI/ML 모델의 민주화에 대한 큰 강조점이 있었습니다. 또한 오픈소스 혁신을 통해 하이브리드 클라우드(OpenShift AI 고객의 80%)를 주도하는 교육 및 개발 도구, 자동화, 새로운 도구 도입 등이 강조되었습니다. 예를 들어, 레드햇이 최근 인수한 MIT 출신 기술인 Neural Magic은 차세대 AI를 더 빠르고 비용 효율적으로 설계하는 데 도움을 줄 것입니다. 실제로 많은 고객들이 비용 절감뿐 아니라 VMware보다 환경을 개발할 때 더 많은 자유도를 제공하기 때문에 VMware에서 OpenShift 가상화로 전환하고 있습니다. 전통적인 창의적 파괴가 진행 중입니다, 여러분!

하이브리드 클라우드에서 AI를 원하는 유연성과 속도에 맞게 확장할 수 있는 워크로드를 제공합니다.

이것이 바로 Hitachi Vantara의 Red Hat OpenShift 및 Ansible 통합 솔루션을 제공하는 중요한 이유이며, 이를 통해 고객은 AI 하이브리드 클라우드 인프라를 실험하고 확장할 때 자동화를 통해 성능을 최적화하고 운영 비용을 절감할 수 있습니다. 이것은 기업들에게 큰 유연성과 자신감을 제공하여 위에서 언급된 하이브리드 클라우드 인프라의 장점을 활용할 수 있도록 합니다.

레드햇 오픈시프트 가상화 기술과 Hitachi 컨버지드 솔루션, 스토리지 운영 및 데이터 서비스로 현대적 애플리케이션을 위한 통합 솔루션(Red Hat OpenShift Virtualization with Hitachi Converged, Storage Operations & Data Services for Modern Apps)

DeepSeek의 비용 모델(오픈 소스 MIT, MoE 아키텍처 사용)의 경우, 대규모 추론 모델이 거대 기술 기업보다 훨씬 저렴한 비용으로 경제적으로 액세스할 수 있음을 보여주고 있습니다. 이를 통해 AI 애플리케이션의 소규모 개발자가 훨씬 더 광범위하게 접근할 수 있어 빠르고 경쟁력 있게 시장에 진입할 수 있습니다. 다시 한 번, 창조적 파괴가 활발하게 펼쳐집니다.

싱가포르 난양기술대학교(NTU)의 용강 웬(Yonggang Wen) 박사와 같은 일부 전문가들은 AI 기반 데이터센터(AIDC)가 디지털 경제의 중추적인 역할을 하고 있다고 예측합니다. 역사적으로 AI 모델의 훈련 단계에서는 추론 단계보다 더 많은 리소스가 필요했습니다. 이제 이러한 흐름은 변화하고 있습니다. 추천 시스템이나 생성형 AI와 같은 대규모 추론(inference) 애플리케이션이 학습(training)을 뛰어넘어 더 많은 연산 능력과 에너지를 요구하게 된 것입니다.

이러한 변화는 예측을 더욱 가속화할 것입니다. 예측에 따르면, 2023년에는 학습과 추론 워크로드의 분배가 80:20 비율이었으나, 2028년에는 20:80으로 바뀔 것으로 보이며, 2025년에는 50:50의 균형을 이룰 것으로 예상됩니다.

물론, DeepSeek의 비용 모델은 여전히 철저히 평가되어야 합니다. 그러나 북미와 유럽의 경쟁사들이 그들의 방법을 복제하기 시작하면, 전 세계적인 개인정보 보호 및 보안 우려가 완화되면서 상황이 급변할 수 있습니다. 그리고 그 순간, 2025년에는 일반 목적 AI 기술이 모든 것을 주도하며 경쟁이 본격화될 것입니다.

글로벌, 산업 간 경험의 힘

Hitachi에서 일하는 것의 놀라운 점 중 하나는 전 세계 모든 주요 산업에 걸쳐 광범위한 정보에 접근할 수 있다는 것입니다. 이는 고객들이 이 트렌드를 조기에 활용할 수 있도록 돕는 완벽한 기회를 제공합니다.

여기에는 Hitachi Energy, Rail, Automotive Systems, R&D 연구소 등 Hitachi 제품군에 속한 570개 이상의 회사가 포함됩니다. 또한, Fortune 500과 Fortune 2000에 속한 큰 기업들뿐만 아니라, 중견 기업들도 포함되어 있습니다. 이렇게 다양한 기업들의 데이터를 통해, 고객들의 AI 성장에 맞춰 적합한 솔루션을 제공할 수 있도록 필요한 정보와 인프라 요구 사항에 대한 통찰을 얻고 있습니다.

실제로, Hitachi iQ를 통해 우리는 제품에 AI를 적용하여 산업 기업과 미래 지향적인 비즈니스를 위한 지능형 인프라 배치를 제공합니다. 이는 조직들이 프로세스를 효율화하고, 인사이트를 빠르게 도출하며, 혁신을 촉진할 수 있도록 하여, AI 발전의 최전선에 위치하도록 돕습니다.

AI로 인한 창조적 파괴의 속도를 앞서가기 위해 모두가 빠르게 움직이고 있는 지금, 변화하는 AI 환경을 잘 이해할 뿐만 아니라, 기업의 규모와 관계없이, 업종, 지역, 성장 속도 전반에 걸쳐 하이브리드 클라우드 인프라를 적용하는 등 폭넓은 경험을 가진 Hitachi Vantara 같은 파트너와 협력하는 것이 매우 중요합니다.

우리는 앞으로 AI 성공의 핵심 요소로서 하이브리드 클라우드의 중요성에 대해, 특히 Red Hat OpenShift, Microsoft Azure, Google Anthos, 등 멀티클라우드 환경을 지원하는 측면에서 더 많이 이야기하게 될 것입니다. 그때까지 하이브리드 클라우드 AI 여정을 탐색하는 데 AWS가 어떤 도움을 줄 수 있는지 자세히 알아보려면 Hitachi Vantara 담당자에게 문의주시기 바랍니다.

자세히 알아보기