반도체 전문 온라인 매거진 - 올포칩

슈퍼마이크로컴퓨터(Super Micro Computer, 이하 슈퍼마이크로)가 AI 솔루션 포트폴리오 확장을 통해 공공 장소, 소매점 또는 산업 인프라와 같은 엣지 로케이션에서의 AI 성능 및 기능을 활용을 지원한다. 슈퍼마이크로의 애플리케이션 최적화 서버는 엔비디아 GPU를 탑재했으며, 사전 훈련된 모델의 미세 조정이 수월하도록 지원하고, 데이터가 생성되는 엣지에 AI 추론 솔루션을 배포해 응답 시간 및 의사 결정의 개선을 돕는다. 

찰스 리앙(Charles Liang) 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로는 가장 광범위한 엣지 AI 솔루션 포트폴리오를 지녀, 고객의 엣지 환경에 맞춰 사전 훈련된 모델을 지원할 수 있다"며, “슈퍼마이크로는 기업이 엣지 로케이션에서 AI 데이터를 처리해 경쟁력을 구축할 수 있도록 업계에 최적화된 솔루션을 지속 제공하고 있다”고 덧붙였다. 

이어서 “슈퍼마이크로 하이퍼-E 서버는 5세대 인텔 제온 프로세서 2개를 기반으로 최대 3개의 엔비디아 H100 텐서 코어 GPU 탑재가 가능하며, 이로 인해 엣지 AI에 탁월한 성능을 제공한다. 여기에는 최대 8TB의 메모리가 탑재돼 엣지 로케이션에서 데이터센터 수준의 AI 처리 능력을 발휘할 수 있도록 한다”고 설명했다. 

슈퍼마이크로의 최첨단 서버는 처리가 필요한 데이터를 클라우드로 다시 전송하는 과정 없이, 각 엣지에서 필요한 정보를 다시 불러올 수 있도록 지원한다. 고객은 엔비디아 AI 엔터프라이즈를 통해 엣지 로케이션에서 직접 성능 최적화 및 사전 훈련된 거대언어모델(Large Language Model; LLM)을 활용할 수 있다. 이를 통해 데이터 원천과 가까운 위치에서 실시간으로 정확한 의사결정을 내릴 수 있다. 

케빈 코너스(Kevin Connors) 엔비디아 월드와이드 OEM 어카운트 부사장은 “엣지에서의 AI 활용에 대한 관심은 헬스케어, 소매, 제조, 자동차 등 산업 전반에서 증가하고 있다"며 “새로운 슈퍼마이크로 포트폴리오는 엔비디아 인증 시스템을 통과했으며, 엔비디아 AI 플랫폼을 기반으로 최고 수준의 가속 컴퓨팅 인프라를 제공하도록 설계됐다. 또한 엔비디아 AI 엔터프라이즈 소프트웨어가 탑재 돼있어 엣지 AI 워크로드 실행을 용이하게 한다”고 이야기했다. 

슈퍼마이크로의 하이퍼-E(Hyper-Edge) 서버 SYS-221HE가 대표적인 예이다. 해당 서버는 엣지 트레이닝 및 추론에 최적화되어 있으며, 깊이가 얕은 전면 I/O 시스템에서 듀얼 소켓 CPU를 지원한다. 이 시스템은 엔비디아 H100, A10, L40S, A40 및 A2 GPU를 포함한 최대 3개의 이중 폭 엔비디아 텐서 코어 GPU를 수 있다. 해당 GPU는 슈퍼마이크로 하이퍼-E가 데이터 수집, 분석 및 저장하는 엣지 환경에서 AI 작업 부하를 처리할 수 있는 수준의 컴퓨팅 성능을 제공한다. 전면 또는 후면 서비스 옵션이 제공되므로 다양한 환경에서 설치가 가능하다. 에비덴(Eviden)은 전통적인 소매점에서의 쇼핑 경험을 향상하는 엣지 AI 솔루션을 제공하며, 이와 같은 파트너는 슈퍼마이크로 하이퍼-E서버의 성능과 유연성을 잘 보여준다.