대부분의 기업은 AI에 대한 약속을 이미 했습니다. 예산을 승인하고, 조종사들을 발휘했으며, 이를 전략적 우선순위로 지정했습니다. 그렇다면 왜 95%가 300억에서 400억 달러 규모의 생성형 AI 투자에 대해 전혀 수익을 얻지 못하는 걸까요? Hitachi Vantara의 2025년 데이터 인프라 현황 글로벌 보고서에서 인용된 MIT 연구에 따르면, 15개 시장에서 1,200명 이상의 IT 리더를 대상으로 한 설문조사 결과, 실패가 모델 자체가 아닙니다. 문제는 그 밑에 깔린 인프라입니다.
보고서는 명확하게 말합니다. AI로 성공하는 조직과 예산을 소진하는 조직 간의 격차는 데이터 기반의 성숙도에 달려 있습니다. 연구에서 정의한 ‘최적화(Optimized)’ 단계, 즉 탄력적인 인프라, 정제된 데이터, AI 기반 운영, 측정 가능한 성과를 달성한 기업은 전체의 41%에 불과합니다. 나머지 59%는 향해 구축 중이거나, AI 투자를 실질적으로 저해하는 분산되고 수동적인 환경에 갇혀 있습니다.
기업 기술 리더들에게 중요한 질문은 인프라를 현대화할 것인가가 아니라, 현대화에 실제로 무엇이 필요한지, 그리고 이를 제대로 수행하는 것이 왜 지금 가장 전략적인 투자인지 이해하는 것입니다.
성능이 최우선
수십 년 동안 엔터프라이즈 스토리지는 신뢰성과 용량을 중심으로 구축되었으며, 성능은 사후에 최적화되어 왔습니다. 생성형 AI, 실시간 분석, 고주파 트랜잭션 처리의 등장으로 이러한 상황은 바뀌었으며, 이제는 대규모 환경에서 1밀리초 미만의 일관된 지연 시간을 요구하고 있습니다.
스토리지 공간이 데이터를 충분히 빠르게 전달하지 못하면, AI 인프라도 인사이트를 충분히 빠르게 전달할 수 없습니다. ‘데이터 현황(State of Data)’ 보고서는 이 점을 다시 한번 강조합니다. AI 워크로드를 지원할 적절한 인프라를 비즈니스 성공의 핵심 요인으로 꼽는 기업들은 ‘최적화(Optimized)’ 단계에 도달할 가능성이 훨씬 더 높으며, AI 프로젝트 성공의 이유로 데이터 품질을 꼽는 비율도 훨씬 더 높습니다(최적화 단계 기업의 48% 대 초기 단계(Emerging) 기업의 약 25%).
문제는 구조적인 것입니다. 연간 데이터 성장률 29%는 451 Research S&P Global이 확인한 수치로, 고르게 분포되어 있지 않습니다. 이들은 비디오, 센서 스트림, 모델 학습 세트와 같은 비구조화 데이터 유형에 집중되어 있어 스토리지 인프라에 특히 큰 부담을 줍니다. 조직은 성능 저하 없이 그 성장을 흡수할 수 있는 시스템이 필요합니다.
Hitachi Vantara 가상 스토리지 플랫폼 1(VSP One) 블록 하이엔드는 이러한 전환점을 대비해 설계되었으며, 앞으로 기하급수적으로 증가할 수요에 대응하도록 구성된 올-NVMe 아키텍처를 통해 최대 5,000만 IOPS를 제공함과 동시에 1밀리초 미만의 일관된 지연 시간을 보장합니다.
복원력은 사후에 덧붙이는 것이 아니라 설계 단계에서부터 고려되어야 합니다
데이터 현황 보고서는 기업 인프라 연구에서 가장 뚜렷한 연구 결과 중 하나를 제시합니다: 최적화된 조직의 89%가 고가용성 설계, 정기적인 회복탄력성 테스트, AI 기반 운영으로 운영되고 있습니다.
Hitachi Vantara의 데이터 및 사이버 복원력 글로벌 솔루션 책임자 크리스 밀링턴(Chris Millington)은 "인프라 회복력 없이는 사이버 복원력이라는 것은 존재하지 않습니다."라고 말했습니다.
보안 상황까지 고려하면 위험이 더욱 커집니다. 조사 대상 IT 리더들 사이에서 내부 AI 침해 우려는 연간 10%포인트(31%에서 41%) 급증했으며, 이는 현재 외부 AI 기반 공격 우려와 거의 맞먹는 43%에 달했습니다. 한편, 직원들이 업무 목적으로 AI를 안전하게 사용한다는 신뢰도는 2024년 이후 12포인트 하락했습니다. 위협 범위는 급격히 확대되었으며, 분산되고 수동으로 관리하는 인프라를 가진 조직이 가장 노출이 심각합니다.
이것은 이론적인 위험이 아니라 오늘날 대다수 기업의 운영 현실입니다.
VSP One은 99.999999%의 가용성, FIPS 140-3 레벨 2 인증 보호 기능, 그리고 CyberSense 기반의 이상 징후 탐지, 불변 스냅샷, 자동화된 청정 데이터 복구 기능을 통해 통합된 사이버 복원력을 제공함으로써 이러한 과제를 직접 해결합니다.
복잡성은 혁신에 숨겨진 세금
‘데이터 현황’ 연구에 따르면, 성숙도 단계 전반에 걸쳐 일관되게 나타나는 패턴이 확인되었습니다. ‘신생(Emerging)’ 또는 ‘정립(Defined)’ 단계에 머물러 있는 조직들은 운영 과정에서 단순성에 의존하는 경향이 있어, 정교한 인프라를 도입하고, 글로벌로 확장하며, 고급 분석을 지원하는 데 한계가 있습니다. 또한 기존 시스템이 효율적으로 최적화되지 못하기 때문에 장기적으로 더 높은 비용을 부담하게 됩니다.
연구 대상 기업의 94%가 데이터 인프라에 대해 제3자의 도움이 필요하다고 답했습니다. 이유는 다양하지만, 근본적인 문제는 일관되어 있습니다. 바로 바로 인프라의 복잡성이 내부 역량을 넘어섰다는 점입니다. 플랫폼의 급증, 하이브리드 클라우드의 무분별한 확장, 그리고 기술 인력 부족이 복합적으로 작용하여, 기업들은 인프라에서 가치를 창출하기보다는 단순히 인프라를 관리하는 데 급급한 상황에 처해 있습니다.
업무량 통합이 해답의 일부입니다. 오픈 시스템과 메인프레임 워크로드를 위해 별도의 시스템을 운영하는 조직들은 라이선스 및 관리 오버헤드부터 교육 및 통합에 이르기까지 모든 측면에서 복잡성으로 인한 추가 비용을 부담하고 있습니다. 두 가지를 모두 처리할 수 있는 통합 플랫폼을 도입하면 이러한 부대 비용을 없앨 수 있으며, 숙련된 팀이 인프라 유지보수 대신 혁신에 집중할 수 있게 됩니다.
지능적인 관리가 또 다른 해결책입니다. Hitachi Vantara의 통합 데이터 관리 플랫폼인 VSP 360은 전체 데이터 환경에 걸쳐 AIOps 기반의 가시성을 제공하며, SaaS, 온프레미스 또는 모바일 환경을 통해 액세스할 수 있는 단일 인터페이스에서 용량, 성능, 시스템 상태 및 보안을 모니터링합니다.
데이터 현황 보고서는 이러한 중앙집중식 거버넌스와 자동화가 바로 최적화된 조직과 그 외의 조직을 구분 짓는 요소임을 분명히 밝히고 있습니다. 즉, 성능, 규정 준수 및 비용 관리를 위해 데이터 위치를 전략적이고 자동화된 방식으로 관리하는 것입니다.
거버넌스 격차는 AI 투자 수익률이 무산되는 지점
보고서에서 가장 유익한 발견 중 하나는 의사결정 구조에 관한 것입니다. 성숙도가 낮은 조직은 사업부 관리자에게 AI 사용 사례와 우선순위에 대한 최종 권한을 부여합니다. 최적화된 조직은 IT 책임자가 AI의 ROI와 투자 결정을 직접 결정하고, 사용할 모델을 선택하며, 사용 사례 우선순위를 정의할 수 있도록 합니다.
이는 거버넌스를 제약 요인으로 볼 것인지, 아니면 역량으로 볼 것인지에 대한 근본적인 차이를 반영합니다. 최적화된 조직들은 거버넌스를 운영 프로세스에 내재화하여, 데이터 위치에 대한 임시적인 파악에서 벗어나 전체 데이터 자산에 걸친 전략적이고 자동화된 관리 체제로 전환했습니다. 이러한 변화는 운영 데이터에 대한 속도, 확장성, 분석을 가능하게 하면서도 민감한 데이터에 대한 통제, 격리, 감사 가능성을 유지합니다.
이 연구는 실패 시 발생하는 비용을 구체적으로 보여줍니다. 실제로 실패한 AI 프로젝트의 46%는 데이터 부족을 원인으로 꼽고, 41%는 조직 간 사일로, 29%는 인프라 한계를 지목합니다. 이 수치들은 기술 실패로 위장된 거버넌스 실패를 나타내며, 올바른 기반을 마련한다면 충분히 예방할 수 있습니다.
Hitachi Vantara의 데이터 거버넌스 역량과 VSP 360은 이러한 현실을 바탕으로 구축되어 있습니다 — 정책 적용을 자동화하고, 하이브리드 환경 전반에 걸쳐 규정 준수를 보장하며, IT 리더들이 데이터의 전체 수명 주기 동안 데이터를 효과적으로 관리할 수 있도록 필요한 가시성을 제공합니다.
전환점은 지금입니다
Hitachi Vantara의 최고제품 책임자(CTO) 옥타비안 타나세(Octavian Tanase)는 데이터 현황 보고서에서 이를 명확히 다음과 같이 정리했습니다. “이 시장에서 경쟁력을 갖추려면, 많은 기업이 이전에 경험해보지 못한 방식으로 민첩하게 움직여야 합니다. 시장 출시 기간, 지속적인 혁신, 그리고 어느 한 공급업체만으로는 모든 것을 해결할 수 없다는 현실이 핵심입니다.”
지금 중요한 것은 바로 인프라 관련 논의입니다. 어떤 AI 모델을 사야 하느냐가 아니라, 그 기반이 제대로 구축되어 성과를 낼 수 있는지가 핵심입니다. 성숙도는 예산, 기업 규모, 또는 데이터 양과 직접적인 상관관계가 없습니다. 이는 경영진의 우선순위 설정에 따라 결정되는 전략적 선택입니다.
스토리지 현대화와 데이터 인프라 투자를 단순한 유지보수 주기가 아닌 전략적 필수 과제로 여기는 기업들은, AI가 기업 간 차별화의 핵심 동력이 됨에 따라 상당한 경쟁 우위를 점하게 될 것입니다. 반면, 이를 미루는 기업들은 그 격차를 좁히기가 점점 더 어려워질 것입니다.
VSP One Block 하이엔드에 대해 더 알아보고 2025년 데이터 인프라 현황 글로벌 보고서를 다운로드하여 귀사의 조직이 어디에 위치하는지, 그리고 앞으로 나아가기 위해 필요한 사항이 무엇인지 확인해 보세요.
Jay Subramanian
Jay Subramanian is General Manager, Core Storage Platform, at Hitachi Vantara