기업의 AI 활용은 보편화됐지만 이를 뒷받침하는 데이터 인프라는 확산 속도를 따라가지 못하고 있다는 조사 결과가 나왔다. 전 세계 기업 아키텍트와 클라우드 인프라 담당자, 데이터 아키텍트의 77%가 현재 AI를 활용하고 있다고 답했다. 그러나 95%는 최근 1년간 거버넌스와 컴플라이언스, 규제 문제로 AI 프로젝트를 지연하거나 취소한 경험이 있었다. 응답자의 72%는 향후 AI 수요를 감당하려면 현재 데이터 아키텍처를 대대적으로 개편해야 한다고 봤다. 기업들이 AI 모델 도입을 넘어 데이터의 저장 위치와 이동 방식, 보안·통제 체계를 다시 설계하는 ‘AI 아키텍처 대전환’에 들어섰다는 분석이다.
[사진자료] 클라우데라 로고
클라우데라는 전 세계 9개 시장의 기업 아키텍트와 클라우드 인프라 담당자, 데이터 아키텍트 1500명을 조사한 ‘AI 아키텍처 대전환(The Great AI Re-Architecture)’ 보고서를 발표했다.
응답자의 75%는 AI 도입으로 데이터 저장 및 아키텍처 운영 방식이 달라졌다고 답했다. AI 워크로드 때문에 인프라 비용이 증가했다는 응답도 84%에 달했다.
AI를 일부 업무에서 시험하는 단계를 지나 전사 운영으로 확대하면서 기존 분석용 데이터 인프라가 처리 성능과 비용, 보안 측면에서 부담을 받고 있다는 의미다. 기업은 데이터 저장 위치뿐 아니라 여러 환경에 흩어진 데이터를 어떤 기준으로 관리하고 AI에 제공할지까지 다시 검토하고 있다.
퍼블릭 클라우드 밖으로 AI 이동…하이브리드가 기업 표준으로
글로벌 응답자의 66%는 지난 1년간 AI 워크로드를 퍼블릭 클라우드에서 프라이빗 클라우드 또는 온프레미스 환경으로 이전했다. 퍼블릭 클라우드를 포기하기보다 데이터 특성과 비용, 규제 수준에 따라 실행 위치를 나누는 하이브리드 전략이다.
아시아태평양 응답자 가운데 같은 경험이 있다는 비율은 63%였다. AI 도입으로 데이터 저장 및 아키텍처 운영 방식이 변했다는 응답은 84%, 현재 구조를 대대적으로 개편해야 한다는 응답은 68%로 나타났다.
향후 2년 동안 하이브리드 우선 아키텍처를 최우선 전략으로 추진하겠다는 응답자는 전체의 25%였다. 기업들은 단일 환경에 데이터를 집중하기보다 퍼블릭 클라우드와 프라이빗 클라우드, 온프레미스, 엣지에 워크로드를 나눠 배치하는 방식을 택하고 있다.
아키텍처 전환 과정에서 가장 큰 과제는 데이터 거버넌스다. 응답자의 73%는 AI로 인해 데이터 거버넌스가 더 복잡해졌다고 답했다. 절반이 넘는 55%는 거버넌스·컴플라이언스·규제 문제로 지난 12개월 동안 6건 이상의 AI 프로젝트를 지연하거나 취소했다.
데이터 이동 빈도도 높았다. 응답자의 97%는 한 달에 한 번 이상 데이터를 다른 환경으로 옮긴 경험이 있었다. 데이터가 클라우드와 데이터센터, 엣지를 오갈수록 접근 권한과 규제 준수 여부, 데이터 계보를 환경에 관계없이 동일하게 관리하는 체계가 필요해진다.
세르지오 가고 클라우데라 최고기술책임자(CTO)는 “기존 데이터 분석을 위해 구축한 아키텍처는 현재 AI가 요구하는 확장성과 거버넌스, 유연성을 충족하도록 설계되지 않은 경우가 많다”며 “통제와 보안을 유지하면서 가장 적합한 환경에서 AI를 실행할 수 있는 데이터 기반이 필요하다”고 말했다.
최승철 클라우데라코리아 지사장은 “규제 산업의 비중이 높고 데이터 주권 요구가 강한 국내 시장에서도 하이브리드 아키텍처와 일관된 거버넌스가 중요하다”며 “기업이 퍼블릭 클라우드와 온프레미스, 엣지를 함께 활용할 수 있어야 한다”고 말했다.
이번 조사는 클라우데라의 의뢰로 웨이크필드 리서치가 2026년 6월 5일부터 22일까지 온라인으로 진행했다. 미국·캐나다·브라질·남아프리카공화국·스페인·영국·싱가포르·인도·일본의 기업 실무자 1500명이 참여했다. 아시아태평양 결과는 싱가포르·인도·일본 응답자 300명을 기준으로 하며 한국 기업은 조사 대상에 포함되지 않았다.
이번 보고서는 기업 AI 경쟁력의 병목이 모델 선택보다 흩어진 데이터를 일관된 기준으로 통제하고 적합한 환경에서 실행할 수 있는 구조에 있음을 짚는다.
The post AI 쓰는 기업 77%, 프로젝트 막힌 곳은 95%…데이터 구조 다시 짠다 appeared first on 벤처스퀘어.