반도체 전문 온라인 매거진 - 올포칩

AI는 50년 만에 등장한 가장 혁신적인 기술로 평가받고 있다. AMD가 자체적으로 조사한 자료에 따르면, 데이터센터용 AI 가속기 시장은 2023년 450억 달러에서 2027년 4천억 달러 이상의 규모를 형성하며, 연간 70% 이상의 폭발적인 성장이 예상되고 있다. AMD는 다가오는 AI 시대를 선도할 수 있는 최첨단 컴퓨팅 기술과 패키징 및 제조 기술에 기반한 포괄적인 AI 가속 솔루션으로 시장 요구에 대응하고 있다.

AMD 코리아 커머셜 세일즈 부문 이재형 대표는 “AMD는 클라우드와 고성능 컴퓨터, 엔터프라이즈 및 임베디드 애플리케이션과 PC 시장에 이르기까지 모든 영역에 걸쳐 AI 인프라를 지원할 수 있는 포괄적인 솔루션을 공급하고 있다.”며, ““AMD는 광범위한 훈련 및 추론 컴퓨팅 엔진 포트폴리오를 비롯해 개방적이고 검증된 소프트웨어 솔루션, 그리고 기술 혁신을 지원하는 협업적 AI 에코시스템을 통해 AI 시장에 전략적으로 대응하고 있다.”고 밝혔다.

데이터센터의 AI 워크로드를 지원하는 AMD 인스팅트 MI300 시리즈 가속기는 AI 및 HPC 전용 가속기 엔진과 4세대 AMD 인피니티 아키텍처에 기반한 3.5D 패키징 기술을 통해 최적의 성능과 전력 효율성을 제공한다. AMD 인스팅트 MI300X는 업계 최고 수준의 생성형 AI 가속기로, 차세대 AI 가속기 아키텍처인 CDNA 3을 기반으로 192GB 용량의 HBM3와 최대 5.3TB/s의 매모리 대역폭 및 최대 896GB/s의 AMD 인피니티 패브릭 대역폭을 지원한다. 

▲업계 최고 수준의 성능을 제공하는 생성형 AI 가속기인 AMD 인스팅트 MI300X

AMD 코리아 데이터센터 및 클라우드 솔루션 아키텍트인 김홍필 이사는 “MI300X는 304개의 CDNA 3 아키텍처 컴퓨팅 유닛과 4세대 인피니티 패브릭 링크, 3D 하이브리드 본딩 패키지를 통해 업계 최고 수준의 가속 성능을 제공한다.”며, “특히 8개의 MI300X를 탑재한 MI300X 플랫폼은 최대 10.4PF, 1.5TB 용량의 HBM3, 896GB/s의 인피니피 패브릭 대역폭까지 지원할 수 있다.”고 말했다.

이외에도 AMD는 APU의 장점을 통해 새로운 성능과 가능성을 제공하는 세계 최초 AI 및 HPC용 APU 가속기인 AMD 인스팅트 MI300A를 비롯해 데이터센터 AI를 위한 서버용 CPU인 AMD 에픽 프로세서도 갖추고 있다.

AMD는 클라우드와 엔드포인트 AI 전반을 지원할 수 있는 소프트웨어 포트폴리오 또한 구축하고 있다. 데이터센터 GPU를 위한 ROCm과 데이터센터 CPU를 위한 ZenDNN, 그리고 클라이언트와 임베디드 엣지 및 엔드포인트를 위한 바이티스(Vitis) AI 등 다양한 소프트웨어 솔루션이 지원된다. 생성형 AI를 위한 새로운 기능이 추가된 ROCm 6는 첨단 대규모 언어 모델(LLM)에 최적화되어 있으며, 고성능 AI 라이브러리를 비롯해 프레임워크, 모델, 머신러닝 파이프라인 등 지원 에코시스템도 빠르게 확장하고 있다. 

▲탁월한 성능과 강력한 보안 및 뛰어난 효율성을 갖춘 AMD 라이젠 AI

AI가 일반 PC 사용자들에게도 광범위하게 확산하면서 AMD는 퍼베이시브 AI를 위한 윈도우 PC용 라이젠 AI를 통해 개인 사용자를 지원하고 있다. 라이젠 AI는 가장 효율적인 모바일 AI 프로세싱을 위한 전용 AI 엔진을 탑재하고 있으며, AI 워크로드를 가속화하는 AVX-512 VNNI 명령어와 병렬 연산 AI 워크로드에 최적화된 AMD 라데온 그래픽 엔진을 내장하고 있다.

AMD 코리아 컨슈머팀 세일즈 및 마케팅 스페셜리스트인 임태빈 이사는 “AMD 라이젠 AI는 탁월한 성능과 강력한 보안 기능 및 뛰어난 효율성으로 미래의 가치를 실현하고 있다. 지난해 제품 발표 이후 이미 라이젠 AI 프로세서를 탑재한 에이서, 에이수스, 델, 레노버, HP 등에서 수백만 대의 제품이 출하되었다.”며, “기존 대비 3배의 생성형 AI NPU 성능을 제공하는 XDNA 2가 탑재된 AMD 라이젠 AI 프로세서 ‘스트릭스 포인트’도 올해 출시될 예정이다.”고 밝혔다.