반도체 전문 온라인 매거진 - 올포칩

기업의 AI 활용이 모델 개발에서 실제 서비스와 업무 프로세스로 빠르게 확대되면서 AI에 최적화된 클라우드 인프라 시장도 가파른 성장세를 보이고 있다. 특히 에이전틱 AI 확산과 함께 인프라 자원 소비의 중심이 모델 학습에서 지속적인 실시간 추론으로 이동하고 있다. 

가트너는 전 세계 AI 최적화 서비스형 인프라(IaaS) 지출이 2026년 420억 달러(약 59조 원)에 달해 전년 대비 96% 증가할 것으로 전망했다. 시장 규모는 2027년 660억 달러(약 93조 원)까지 확대될 것으로 예상된다. 

하딥 싱(Hardeep Singh) 가트너 수석 애널리스트는 “대규모 언어 모델(LLM) 학습을 지원하기 위한 인프라 수요가 지속되고, 기업 애플리케이션과 업무 프로세스 전반에 걸쳐 AI가 빠르게 상용화되면서 시장 성장을 견인하고 있다”고 설명했다. 

시장 성장과 함께 AI 인프라의 주요 워크로드도 변화하고 있다. 에이전틱 AI는 여러 단계의 작업을 자율적으로 처리하는 과정에서 지속적인 연산을 요구한다. 또한 기업들이 모델 개발에서 대규모 상용 배포로 전환하면서 미세 조정 모델과 도메인 특화 모델(DSM)이 고객 대응 및 운영 시스템에 빠르게 통합되고 있다. 이에 따라 일회성 학습보다 지속적인 실시간 추론을 위한 컴퓨팅 자원 수요가 증가하고 있다. 

표 1. 전 세계 서비스형 인프라 지출 전망, 2025~2027년 (단위: 백만 달러)

출처: 가트너(2026년 8월) 

올해 전 세계 AI 추론 관련 IaaS 지출은 233억 달러(약 33조 원)로, 학습 관련 지출 190억 달러(약 27조 원)를 넘어설 전망이다. 전체 AI 최적화 IaaS 지출에서 추론 워크로드가 차지하는 비중도 2026년 55%에서 2027년 59%로 확대될 것으로 예상된다. 

AI가 개발과 실험 단계를 넘어 실제 기업 서비스에 본격적으로 적용되면서 AI 인프라 시장의 무게중심 역시 학습에서 추론으로 이동하고 있다. 이에 따라 지속적인 실시간 AI 실행을 효율적으로 지원할 수 있는 클라우드 인프라가 향후 기업 AI 투자의 핵심 영역으로 부상할 전망이다.