반도체 전문 온라인 매거진 - 올포칩

국내 기업들의 AI 도입 속도가 아시아 최고 수준으로 평가받고 있지만, 실제 AI 서비스를 안정적으로 운영하고 조직 전체로 확장하는 단계에서는 인프라 운영 역량과 전문 인력 부족 문제가 새로운 과제로 부상하고 있는 것으로 나타났다. 특히 생성형 AI 확산과 함께 고집적 AI 인프라 수요가 빠르게 증가하면서 데이터센터와 냉각 기술, 규제 대응까지 포함한 장기 인프라 전략 중요성도 커지는 모습이다. 

글로벌 데이터센터 기업 ST Telemedia Global Data Centres(STT GDC)가 공개한 아시아 AI 인프라 준비 현황 보고서에 따르면 한국은 아시아에서 가장 앞선 AI 도입 국가 중 하나로 평가됐지만, AI 환경 확장 단계에서는 운영 복잡성과 전문성 부족 문제에 직면한 것으로 조사됐다. 

이번 조사는 한국을 포함한 아시아 9개국 600여 명의 엔터프라이즈 및 디지털 네이티브 조직 리더를 대상으로 진행됐으며, AI 인프라 성숙도를 전략과 조직 준비도, 데이터 거버넌스, 현재 인프라 수준, 미래 확장 전략 등 5개 영역 기준으로 분석했다. 

조사 결과 한국 기업의 67%는 AI 인프라 구축 단계에 머물러 있는 것으로 나타났으며, 미래 대응 역량을 확보한 통합 및 선도 단계 기업 비중은 32% 수준에 그쳤다. 특히 AI 인프라 경쟁력을 지속적인 사업 성과로 연결한 선도 단계 기업은 2%에 불과했다. 

반면 AI 사업 가치에 대한 평가는 매우 높게 나타났다. 한국 응답자의 75%는 AI 프로젝트가 기대 이상의 가치를 창출하고 있다고 답해 아시아 평균인 34%를 크게 웃돌았다. 업계에서는 이를 두고 한국 기업들이 AI 도입 자체에는 적극적이지만, 실제 운영과 확장 단계에서는 새로운 인프라 전략이 필요해지고 있다는 의미로 해석하고 있다. 

AI 확산 본격화에 운영 전문성 확보 중요성 확대 

보고서는 특히 AI 환경 운영 전문성과 규제 대응 역량 부족을 국내 기업들의 핵심 과제로 지목했다. 실제 응답자의 52%는 고집적 AI 인프라를 관리하고 최적화할 내부 전문성이 부족하다고 답했으며, 48%는 높은 초기 투자비용과 운영비용을 주요 부담 요인으로 꼽았다. 

데이터 주권과 규제 대응 문제 역시 중요한 변수로 나타났다. 응답자의 52%는 규제 준수와 데이터 관리 이슈를 AI 확산의 주요 제약 요소로 지목했다. 또한 액체 냉각 기술 도입을 검토하거나 추진 중인 기업 비중은 48%에 달했지만, 실제 데이터센터 및 코로케이션 파트너 선정 과정에서는 지속가능성과 인프라 효율성이 충분히 반영되지 않고 있는 것으로 조사됐다. 

허철회 STT GDC 코리아 대표는 "한국은 이미 AI 실험 단계를 넘어섰으며 이제 중요한 것은 구축한 AI 환경을 어떻게 안정적으로 확장할 것인가"라며 "운영 전문성과 규제 대응, 장기적인 인프라 전략이 AI 경쟁력의 핵심 요소로 부상하고 있다"고 말했다. 

보고서는 향후 AI 인프라 경쟁력이 단순 설비 확보보다 운영 전문성과 전략적 파트너십 확보 중심으로 이동할 것으로 전망했다. 특히 AI 인프라를 직접 구축·운영하기보다 전문 파트너와 협력해 복잡한 AI 환경을 관리하려는 움직임도 더욱 확대될 것으로 예상했다.