엔비디아, 지속 가능 효율적 컴퓨팅 지원 수냉식 GPU 출시

2022년 05월 25일

엔비디아( www.nvidia.co.kr, CEO 젠슨 황)가 고성능 탄소 중립 데이터센터에 대한 고객의 요구에 부응하는 메인스트림 서버용 GPU 제품군의 첫 번째 수냉식 A100 PCIe GPU를 출시한다고 발표했다.

240개 이상의 데이터센터를 관리하는 글로벌 서비스 제공업체 에퀴닉스(Equinix)는 지난 4월 기준 49억 달러의 녹색 채권을 발행했다. 이는 에퀴닉스 데이터센터에서 사용하는 에너지 중 컴퓨팅 작업에 직접 사용되는 에너지 양을 측정하는 업계 지표인 PUE(Power Usage Effectivity, 전력 효율 지수)를 최적화해 환경에 미치는 영향을 줄이는 데 적용할 투자 등급 도구(investment-grade instruments)이다.

데이터센터 운영자는 이 비율을 이상적인 1.0 PUE에 가깝게 낮추기 위해 노력하고 있다. 현재 에퀴닉스 시설의 평균 PUE는 1.48이며 최고의 신규 데이터센터는 1.2 미만이다. 한 단계 더 나아가, 에퀴닉스는 에너지 효율을 발전시키기 위해 올해 1월 전용 시설을 열었다. 작업의 한 부분으로 수냉식(liquid cooling)에 중점을 둔다.

메인프레임 시대에 탄생한 수냉식은 AI 시대에 들어 더욱 성숙해지고 있다. 이제 수냉식은 다이렉트 칩 냉각(direct-chip cooling)이라는 현대적인 형태로 세계에서 가장 빠른 슈퍼컴퓨터 안에서 널리 사용되고 있다. 수냉식은 이미 CPU보다 AI 추론에서 최대 20배 더 나은 에너지 효율과 고성능 컴퓨팅을 제공하고 있는 엔비디아 공랭식 GPU의 가속 컴퓨팅의 다음 단계이다.

가속화를 통한 효율

전 세계적으로 AI와 고성능 컴퓨팅을 실행하는 모든 CPU 전용 서버를 GPU 가속 시스템으로 전환하면 연간 11조 와트시(watt-hours)의 엄청난 에너지를 절약할 수 있다. 이는 1년에 145만여 가구가 소비하는 에너지 양과 같다.

엔비디아는 현재 다이렉트 칩 냉각을 사용하는 최초의 데이터센터 PCIe GPU를 출시해 지속 가능성을 높이고 있다. 에퀴닉스는 A100 80GB PCIe 수냉식 GPU를 지속 가능한 냉각 및 열 포착(heat capture)을 위한 포괄적인 접근 방식의 일환으로 데이터센터에서 사용할 수 있도록 인증하고 있다. GPU는 현재 샘플링 중이며 올 여름 일반 공급될 예정이다.

데이터센터 운영자는 데이터센터 내부의 공기를 냉각시키기 위해 연간 수백만 갤런의 물을 증발시키는 냉각장치를 제거하는 것을 목표로 한다. 수냉식은 주요 핫스팟에 초점을 맞춘 폐쇄형 시스템에서 소량의 유체를 재활용하는 시스템을 가능하게 한다.

에퀴닉스의 엣지 인프라 책임자 잭 스미스(Zac Smith)는 "이것은 우리 연구실에 도입된 최초의 수냉식 GPU이며, 고객이 AI를 활용하는 지속 가능한 방법을 갈망하고 있기 때문에 매우 신나는 일"이며, “우리는 쓰레기를 자산으로 만들 것"이라고 덧붙였다.

동일한 성능, 적은 전력

별도의 테스트에서 에퀴닉스와 엔비디아는 수냉식을 사용하는 데이터센터가 공냉식 설비와 동일한 워크로드를 실행하면서도 에너지를 약 30% 절감할 수 있음을 발견했다. 엔비디아는 수냉식 데이터센터가 1.15 PUE에 도달할 수 있을 것으로 추정하며, 이는 공냉식의 1.6PUE에 훨씬 못 미치는 수치이다.

수냉식 데이터센터는 동일한 공간에 두 배의 컴퓨팅 성능을 제공할 수도 있다. A100 GPU는 PCIe 슬롯을 하나만 사용하는 반면 공냉식 A100 GPU에는 슬롯 2개가 필요하기 때문이다.

<엔비디아는 수냉식을 통해 전력 절감과 밀도 향상을 실현한다.>

아시아, 유럽 및 미국에는 에너지 효율 표준을 정하는 규제가 계류돼 있다. 이는 은행과 다른 대형 데이터센터 운영자들이 수냉식을 평가하도록 동기를 부여하고 있다. 이 기술은 데이터센터에만 국한되지 않는다. 자동차 및 기타 시스템은 제한된 공간에 내장된 고성능 시스템을 냉각하는 데 필요하다.

신속한 채택을 위해 오늘날의 수냉식 GPU는 더 적은 에너지로 동일한 성능을 제공한다. 미래에는 이러한 카드가 사용자가 원하는 동일한 에너지로 더 많은 성능을 얻을 수 있는 옵션을 제공할 것으로 기대된다.