반도체 전문 온라인 매거진 - 올포칩

엔비디아(www.nvidia.co.kr CEO 젠슨 황)가 간편한 통합 툴킷인 엔비디아 AI 워크벤치(NVIDIA AI Workbench)를 발표했다. 이를 통해 개발자는 PC 또는 워크스테이션에서 사전 학습된 생성형 AI 모델을 빠르게 생성, 테스트, 맞춤화한 후 거의 모든 데이터센터, 공용 클라우드, 엔비디아 DGX 클라우드 등으로 확장할 수 있다. 

AI 워크벤치는 기업이 AI 프로젝트를 시작할 때 겪는 복잡성을 최소화한다. 로컬 시스템에서 실행되는 간소화된 인터페이스를 통해 액세스할 수 있으며, 개발자는 맞춤형 데이터를 사용해 허깅페이스(Hugging Face), 깃허브(GitHub), 엔비디아 NGC와 같은 인기 리포지토리에서 모델을 맞춤화한 다음 여러 플랫폼에서 쉽게 공유할 수 있다. 

엔비디아의 엔터프라이즈(Enterprise) 컴퓨팅 부문 부사장인 마누비르 다스(Manuvir Das)는 “전 세계 기업들은 최적의 인프라를 찾아 생성형 AI 모델과 애플리케이션을 구축하기 위해 경쟁하고 있다. 엔비디아 AI 워크벤치는 교차조직팀에 간소화된 경로를 제공함으로써 현대 사업에서 점점 더 필수적인 요소로 떠오르고 있는 AI 기반 애플리케이션을 개발할 수 있도록 지원한다”고 말했다. 

AI 개발자를 위한 새로운 시대

현재 수십만 개의 사전 훈련된 모델이 출시돼 있지만, 수많은 오픈 소스 도구를 사용해 모델을 맞춤화하려면 여러 온라인 리포지토리에서 적합한 프레임워크, 도구, 컨테이너를 찾고, 적합한 기술을 사용해 특정 사용 사례에 맞게 모델을 맞춤화해야 한다. 

엔비디아 AI 워크벤치를 사용하면 몇 번의 클릭만으로 생성형 AI를 맞춤화하고 실행할 수 있다. 이를 통해 오픈 소스 리포지토리와 엔비디아 AI 플랫폼에서 필요한 모든 엔터프라이즈급 모델, 프레임워크, 소프트웨어 개발 키트, 라이브러리를 통합된 개발자 툴킷으로 가져올 수 있다. 

AI 워크벤치는 최신 멀티 GPU 지원 데스크톱 워크스테이션, 하이엔드 모바일 워크스테이션, 가상 워크스테이션을 보강할 수 있으며, 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise), HP 주식회사(HP Inc.), 람다(Lambda), 레노버(Lenovo), 슈퍼마이크로(Supermicro)를 비롯한 여러 선도적인 AI 인프라 제공업체에서 이를 채택하고 있다. 이제 윈도우, 리눅스 기반 엔비디아 RTX PC, 워크스테이션을 사용하는 개발자는 로컬 RTX 시스템에서 엔터프라이즈급 생성형 AI 프로젝트를 시작하고, 데이터센터와 클라우드 컴퓨팅 리소스에 쉽게 액세스해 필요에 따라 확장할 수 있다. 

엔비디아 AI 엔터프라이즈 소프트웨어는 사용자가 클라우드, 데이터센터, 엣지 전반에서 엔비디아 AI 지원 솔루션을 구축하고 실행할 수 있도록 지원한다. 엔비디아 AI 엔터프라이즈 소프트웨어는 메인스트림 엔비디아 인증 시스템(Certified Systems), 엔비디아 DGX 시스템, 모든 주요 클라우드 플랫폼, 새로 발표된 엔비디아 RTX 워크스테이션에서 실행 가능하도록 검증됐다.