반도체 전문 온라인 매거진 - 올포칩

▲ 르네 하스(Rene Haas) Arm CEO

Arm이 자사 컴퓨팅 플랫폼의 차세대 진화를 선언하며, 창사 이래 최초의 양산형 실리콘 제품인 AI 데이터센터용 'Arm AGI CPU'를 공개했다. 이는 기존의 IP 라이선스와 컴퓨팅 서브시스템(CSS) 제공을 넘어 직접 설계한 칩을 공급하는 전략적 전환점으로, 급증하는 에이전틱 AI 워크로드에 대응하기 위해 개발되었다. 르네 하스(Rene Haas) Arm CEO는 AI가 컴퓨팅 구축 방식을 근본적으로 재정의하고 있으며, 이번 발표를 통해 파트너들에게 고성능·고효율 컴퓨팅 기반의 더 넓은 선택지를 제공하게 되었다고 강조했다.

에이전틱 AI의 등장은 모델 학습을 넘어 추론, 계획, 실행이 반복되는 구조로 변화하며 처리해야 할 토큰 양과 CPU 수요를 폭발적으로 증가시키고 있다. 기업들이 에이전트 기반 애플리케이션으로 확장함에 따라 데이터센터는 기존 대비 4배 이상의 CPU 용량을 필요로 할 것으로 전망된다. 이러한 환경에서는 높은 토큰 처리량과 전력 효율성을 동시에 갖추면서도 x86 아키텍처의 복잡성을 제거한 새로운 프로세서가 필수적이다.

Arm AGI CPU는 에이전틱 데이터센터의 핵심 기반으로서 독보적인 성능과 효율성을 제공한다. CPU당 최대 136개의 Arm 네오버스 V3(Neoverse V3) 코어를 탑재하여 업계 최고 수준의 성능을 구현했으며, 코어당 6GB/s의 메모리 대역폭과 100ns 미만의 초저지연 시간을 지원한다. 또한 300와트의 열설계전력(TDP) 내에서 스레드당 전용 코어를 배정해 예측 가능한 성능을 보장하며, 공랭식 1U 서버 기준 랙당 8,160개, 수랭식 기준 4만 5천 개 이상의 코어를 배치할 수 있는 고밀도 설계를 자랑한다.

경제성 측면에서도 Arm AGI CPU는 x86 CPU 대비 랙당 2배 이상의 성능을 제공하며, 1GW 규모의 AI 데이터센터 구축 시 최대 100억 달러의 자본 지출(CAPEX)을 절감할 수 있는 이점을 제공한다. 이러한 경쟁력을 바탕으로 메타(Meta)를 포함한 글로벌 기업들과의 협력이 가시화되고 있다. 메타는 자사의 맞춤형 가속기인 MTIA와 Arm AGI CPU를 결합해 인프라 오케스트레이션을 최적화하고 있으며, 양사는 향후 다세대에 걸친 로드맵 협력을 이어갈 계획이다. 산토시 야나르단(Santosh Janardhan) 메타 인프라 책임자는 이번 협력이 데이터센터의 성능 밀도를 높이고 효율적인 컴퓨팅 플랫폼을 배포하는 데 크게 기여했다고 밝혔다.

현재 Arm은 오픈AI(OpenAI), SK텔레콤, 삼성전자, TSMC 등 50개 이상의 선도 기업과 협력하여 에코시스템을 확장하고 있다. 애즈락랙, 레노버, 슈퍼마이크로 등 주요 제조사들을 통해 초기 시스템이 이미 제공되고 있으며, 올해 하반기부터 본격적으로 광범위한 출시가 이루어질 예정이다. 이번 실리콘 제품으로의 확장은 Arm 아키텍처가 대규모 AI 인프라의 표준으로 자리매김하는 새로운 시대의 서막이 될 것으로 기대된다.