그래프코어, 최신 MLPerf 벤치마크서 다시 한번 업계 최고 성능 입증
2022년 07월 08일
트위터로 보내기페이스북으로 보내기구글플러스로 보내기

그래프코어(Graphcore, 한국 지사장 강민우)가 최신 MLPerf 2.0 벤치마크 테스트서 IPU(Intelligence Processing Unit) 시스템의 획기적인 성능적 이점을 다시 한번 입증했다. 


그래프코어의 보우(Bow) Pod16은 상대적으로 비용이 더 높은 엔비디아(NVIDIA)의 플래그십 모델인 DGX-A100 640GB과 비교해 ResNet-50에서 31% 더 빠른 훈련시간을 기록했다. BERT에 대해서는 MLPerf 1.1 벤치마크에서 보다 37% 향상된 성능을 달성하며 널리 사용되는 여러 언어 모델에 걸쳐 가격 및 성능 모든 측면에서 선두자리를 지켰다.


a5811fcfe65b7f07c2ce660542d01d07_1657220022_6122.png

그래프코어의 Bow Pod16과 엔비디아 DGX-A100 640GB의 ResNet-50 훈련시간 비교 


바이두, 업계 최초로 그래프코어 IPU 시스템 활용한 써드파티 결과 제출

특히, 최초로 그래프코어 시스템을 활용한 써드파티 결과를 제출한 바이두(Baidu)는 패들패들(PaddlePaddle) 소프트웨어 프레임워크를 사용하여 BERT 훈련에서 동일한 성능을 보였다. 그래프코어의 Bow Pod 시스템의 성능은 전반적으로 크게 개선됐지만, 가격은 이전과 동일해 상당한 비용효율성을 제공한다. 따라서, BERT 훈련시간이 최대 37% 향상됐다는 것은 그래프코어 시스템이 가격 대비 매우 우수한 성능 이점을 제공한다는 것을 의미한다.


a5811fcfe65b7f07c2ce660542d01d07_1657220001_6101.png

바이두가 BERT 모델 훈련에 Bow Pod16 및 Bow Pod64를 사용하여 제출한 패들패들 결과


바이두가 BERT 훈련에 Bow Pod16 및 Bow Pod64를 사용하여 제출한 패들패들 결과는 그래프코어가 PopART를 사용하여 제출한 결과와 유사한 양상을 보인다. 바이두는 패들패들 소프트웨어 프레임워크를 그래프코어의 포플러(Poplar)와 통합하여 탁월한 결과를 얻을 수 있었다. 


그래프코어는 오픈(Open) 부문에서 RNN-T에 대한 결과도 제출했다. 그래프코어는 고객 서비스, 컴플라이언스, 프로세스 자동화 등의 분야에서 음성 솔루션을 제공하는 자사 고객인 그리드스페이스(Gridspace)와 협력하여 RNN-T 훈련을 진행했다. 


RNN-T 모델은 700GB 또는 1만시간의 음성으로 훈련됐는데, Bow Pod64에서 훈련시간을 몇 주에서 단 며칠로 단축했다. 이번 MLPerf 2.0에 RNN-T 결과를 제출한 것은 IPU를 활용한 모델을 구현하고 최적화하기 위한 그래프코어의 고객 중심적 접근을 반영한 것이라 볼 수 있다.

그래픽 / 영상
많이 본 뉴스