반도체 전문 온라인 매거진 - 올포칩

엔비디아(www.nvidia.co.kr CEO 젠슨 황)가 컴퓨팅의 새로운 시대를 여는 블랙웰(Blackwell) 플랫폼 출시한다고 발표했다. 이는 모든 기업이 이전 세대 대비 최대 25배 적은 비용과 에너지로 조 단위의 대규모 언어 모델(LLM)에서 실시간 생성형 AI를 구축하고 실행할 수 있도록 지원한다. 

데이터 처리, 엔지니어링 시뮬레이션, 전자 설계 자동화, 컴퓨터 지원 신약 설계, 양자 컴퓨팅, 생성형 AI 등은 엔비디아의 새로운 산업 기회로 떠오르고 있다. 블랙웰 GPU 아키텍처는 이러한 분야에서 획기적인 발전을 이룰 수 있는 가속 컴퓨팅을 위한 6가지 혁신적인 기술을 갖추고 있다. 

엔비디아의 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 "엔비디아는 지난 30년 동안 딥 러닝, AI와 같은 혁신을 실현하기 위해 가속 컴퓨팅을 추구해 왔다. 생성형 AI는 우리 시대를 정의하는 기술이다. 블랙웰 GPU는 이 새로운 산업 혁명을 구동하는 엔진이다. 세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것"이라고 말했다. 

블랙웰은 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원(National Academy of Sciences)에 입회한 데이비드 헤롤드 블랙웰(David Harold Blackwell)을 기리기 위해 붙여진 이름이다. 이 새로운 아키텍처는 2년 전 출시된 엔비디아 호퍼(Hopper) 아키텍처의 후속 기술이다. 

대규모 슈퍼칩

엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 초당 900기가바이트(GB) 초저전력 칩 투 칩 링크를 통해 두 개의 엔비디아 B200 텐서 코어 GPU를 엔비디아 그레이스 CPU에 연결한다. 

엔비디아 퀀텀-X800 인피니밴드(Quantum-X800 InfiniBand)와 스펙트럼-X800 Ethernet(Spectrum-X800 이더넷) 플랫폼은 블랙웰과 함께 발표됐다. 이들은 최대 800Gb/s의 속도로 고급 네트워킹을 제공하며 GB200 기반 시스템과 함께 연결하면 최고의 AI 성능을 발휘할 수 있다. 

GB200은 가장 컴퓨팅 집약적인 워크로드를 위한 멀티 노드, 수냉식 랙 스케일 시스템인 엔비디아 GB200 NVL72의 핵심 구성요소다. 이 시스템은 72개의 블랙웰 GPU와 5세대 NV링크로 상호 연결된 36개의 그레이스 블랙웰 슈퍼칩과 36개의 그레이스 CPU가 결합돼 있다. 또한 GB200 NVL72에는 엔비디아 블루필드-3(BlueField-3) 데이터 처리 장치가 포함된다. 이는 하이퍼스케일 AI 클라우드에서 클라우드 네트워크 가속화, 컴포저블 스토리지, 제로 트러스트 보안, GPU 컴퓨팅 탄력성을 지원한다. GB200 NVL72는 LLM 추론 워크로드에서 엔비디아 H100 텐서 코어 GPU 대비 최대 30배의 성능 향상을 제공하며, 비용과 에너지 소비를 최대 25배까지 줄여준다. 

이 플랫폼은 1.4 엑사플롭의 AI 성능과 30테라바이트의 고속 메모리를 갖춘 단일 GPU 역할을 하며 최신 DGX 슈퍼팟(DGX SuperPOD)의 빌딩 블록이다. 

엔비디아는 NV링크를 통해 8개의 B200 GPU를 연결하는 서버 보드인 HGX B200을 제공한다. 이는 세계에서 가장 강력한 x86 기반 생성형 AI 플랫폼을 지원하기 위함이다. HGX B200은 엔비디아 퀀텀-2 인피니밴드와 스펙트럼-X 이더넷 네트워킹 플랫폼을 통해 최대 초당 400기가바이트의 네트워킹 속도를 지원한다.