반도체 전문 온라인 매거진 - 올포칩

슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 엔비디아 블랙웰 울트라 솔루션을 탑재한 새로운 서버 및 랙 제품군을 공개했다. 

슈퍼마이크로의 새로운 AI 제품군은 엔비디아 HGX B300 NVL16와 GB300 NVL72 플랫폼을 탑재해, AI 추론, 에이전틱 AI, 비디오 추론 등 고성능 연산 AI 워크로드에서 획기적인 성능을 제공한다. 슈퍼마이크로와 엔비디아는 이번 차세대 AI 솔루션을 통해 AI 분야에서의 리더십을 더욱 공고히 하고 있다. 

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 "슈퍼마이크로는 엔비디아와 오랜 파트너십을 지속하며 엔비디아 블랙웰 울트라 플랫폼을 기반으로 한 최신 AI 기술을 공개하게 되어 매우 기쁘다"며, "당사의 데이터센터 빌딩 블록 솔루션을 활용해 엔비디아 HGX B300 NVL16 GB300 NVL72의 열 관리 및 내부 토폴로지(topology)에 최적화된 새로운 공냉식 및 수냉식 냉각 시스템을 구현했다”고 설명했다. 

이어서 그는 “특히 당사의 최첨단 수냉식 솔루션은 최신 CDU 기술을 사용해 8노드 랙 구성에서 40℃, 또는 16 노드 랙 구성에서는 35℃의 온수를 활용해 열 효율성이 우수하다. 이 혁신적인 솔루션은 수자원을 절약하면서 전력 소비도 최대 40%까지 줄여 엔터프라이즈 데이터센터의 환경적 및 운영적 측면에서 상당한 이점을 제공한다”고 덧붙였다. 

엔비디아 블랙웰 울트라 플랫폼은 GPU 메모리 용량 및 네트워크 대역폭에 대한 제약으로 발생하는 병목 현상을 해소하고, 대규모 클러스터 환경에서 요구되는 AI 워크로드를 안정적으로 처리할 수 있도록 설계됐다. GPU당 288GB의 HBM3e 고대역폭 메모리를 탑재해 초대규모 AI 모델의 학습 및 추론에서 AI FLOPS(연산 성능)을 획기적으로 향상시킬 수 있다. 또한 네트워킹 플랫폼에 엔비디아 퀀텀-X800 인피니밴드와 스펙트럼-X 이더넷을 통합해 최대 800Gb/s의 컴퓨팅 패브릭 대역폭을 제공한다. 

슈퍼마이크로는 엔비디아 블랙웰 울트라 플랫폼을 지원하는 솔루션으로, 모든 데이터센터를 위해 설계된 엔비디아 HGX B300 NVL16 기반 제품군과 차세대 엔비디아 그레이스 블랙웰 아키텍처를 탑재한 GB300 NVL72 기반 제품군을 공개했다.