반도체 전문 온라인 매거진 - 올포칩

엔비디아(NVIDIA)가 미국 새너제이에서 개최된 GTC 2026을 통해 글로벌 통신사들과 협력하여 구축 중인 AI 그리드 비전을 공개했다. AI 그리드는 지리적으로 분산된 상호 연결 AI 인프라를 의미하며, 통신사들이 보유한 약 10만 개의 분산 네트워크 데이터 센터와 방대한 네트워크 거점을 활용하여 분산된 엣지 전역에서 신규 AI 서비스를 구동하는 기반이 된다. 이는 통신 네트워크를 단순한 데이터 운반체에서 AI 확장의 핵심 엔진으로 격상시키는 구조적 변화를 의미한다.

글로벌 주요 통신사들은 이미 이러한 분산 네트워크를 AI 그리드로 전환하는 작업에 착수했다. 사물인터넷(IoT) 분야를 선도하는 AT&T(American Telephone & Telegraph)는 엔비디아 및 시스코(Cisco)와 협력하여 전용 IoT 코어에서 AI를 구동하고 실시간 추론을 데이터 생성 지점에 배치하고 있다. AT&T 비즈니스 제품 담당 수석부사장 숀 하클은 비즈니스급 연결성과 현지화된 AI 컴퓨팅, 제로 트러스트 보안을 결합하여 실시간 AI 추론을 데이터 발생 위치에 가깝게 배치함으로써 디지털 전환을 가속화하겠다고 밝혔다.

컴캐스트(Comcast)는 미국 전역의 저지연 광대역 인프라를 초개인화 경험을 위한 AI 그리드로 전환하며 대화형 에이전트와 인터랙티브 미디어의 응답성을 보장하고 있다. 아카마이(Akamai)는 수천 개의 엔비디아 RTX PRO 6000 블랙웰 서버 에디션 GPU를 도입하여 4,400개 이상의 엣지에 아카마이 인퍼런스 클라우드를 확장하고 있다. 또한 인도삿 오레두 허치슨(Indosat Ooredoo Hutchison)은 인도네시아 전역의 엣지와 AI-RAN 사이트를 소버린 AI 팩토리와 연결하여 현지화된 AI 서비스인 사하밧-AI(Sahabat-AI)를 제공 중이다.

T-모바일(T-Mobile) 역시 엔비디아와 협력하여 차세대 AI-RAN과 엣지 추론 분야의 실무 적용 모델을 지원하고 있다. 현재 스마트 시티, 산업 현장, 유통 분야의 다양한 애플리케이션이 그리드상에서 시범 운영되고 있으며, 카메라와 배달 로봇 등 도시 규모의 지능형 에이전트들이 네트워크 엣지의 실시간 지능 시스템에 연결되고 있다. 이러한 변화는 기지국과 모바일 교환국이 고도화된 5G 연결성을 제공하는 동시에 분산된 AI 워크로드를 지원하는 핵심 인프라로 진화하고 있음을 보여준다.

AI 그리드는 실시간 반응성과 초개인화된 경험을 특징으로 하는 AI 네이티브 애플리케이션의 실전 배치를 가속화하고 있다. 퍼스널 AI(Personal AI)는 엔비디아 리바(Riva)를 활용해 엔드투엔드 지연시간을 500ms 미만으로 단축한 인간 수준의 대화형 에이전트를 구현했다. 링커 비전(Linker Vision)은 분산된 엣지 사이트에서 수천 개의 카메라 피드를 동시에 처리하여 교통사고 탐지 속도를 최대 10배 향상시켰다. 데카르트(Decart)는 자체 루시(Lucy) 모델을 네트워크 엣지에서 직접 구동하여 지연 시간을 12ms 미만으로 단축한 실시간 영상 생성 기술을 선보였다.

엔비디아는 분산된 사이트 전역에 AI를 효율적으로 배포하기 위한 AI 그리드 레퍼런스 디자인을 정의하고 파트너 생태계를 확장하고 있다. 시스코와 HPE(Hewlett Packard Enterprise) 등 인프라 전문 기업들이 RTX PRO 6000 블랙웰 서버 에디션 기반 시스템을 시장에 선보이고 있으며, 아르마다(Armada)와 라파이(Rafay) 등은 분산형 인프라 전반의 워크로드 오케스트레이션을 위한 제어 평면 구축에 주력하고 있다. 시스코 수석 부사장 마숨 미르는 엔비디아와의 파트너십을 통해 통신사업자들이 미션 크리티컬 애플리케이션을 안전하게 구동하고 AI 가치 사슬에 본격적으로 참여할 수 있게 됐다고 강조했다.