반도체 전문 온라인 매거진 - 올포칩

엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 현지시간 10월 22일부터 24일까지 미국 로스앤젤레스에서 개최되는 이동통신 박람회 ‘MWC 2019 로스앤젤레스’에서 엔비디아 EGX 엣지(NVIDIA EGX Edge) 슈퍼컴퓨팅 플랫폼과 NGC-레디 포 엣지(NGC-Ready for Edge) 시스템을 공개하며 NGC-레디 프로그램의 확장을 알렸다.

인공지능(AI)은 더 이상 단순한 연구 프로젝트가 아니다. 조직들은 AI를 통해 실질적인 문제를 해결하고 있으며, 더 빠른 결정을 내리기 위해 AI 모델을 어디에 배치해야 할지 알아야 한다. AI와 IoT, 5G 인프라가 융합되면서 기업은 데이터 센터를 넘어 엣지에 이르기까지 수십억 개의 센서가 데이터를 스트리밍하고 실시간 의사결정을 하는 모델을 구축할 수 있다.

AI 워크로드를 대규모로 구현하는 기업은 온프레미스 데이터 센터와 클라우드를 결합해 AI 모델을 데이터가 수집되는 위치로 불러오고 있다. 데이터 센터에 대한 IT 전문 지식이 없는 경우, 소매점이나 주차장과 같은 엣지에 위치한 워크로드를 배치하는 일은 어려울 수 있다.

쿠버네티스(Kubernetes)는 애플리케이션 배포, 관리, 확장에 관련된 많은 수동 프로세스를 제거한다. 온프레미스, 엣지 및 클라우드 환경 전반에 걸쳐 일관된 클라우드 네이티브 구축 접근 방식을 제공한다.

그러나, 원격으로 수백 또는 수천 개의 애플리케이션을 관리하도록 쿠버네티스 클러스터를 설정하는 일은 매우 번거로울 수 있다. 엔비디아 EGX 엣지(NVIDIA EGX) 슈퍼컴퓨팅 플랫폼을 통해 이러한 과제를 해결할 수 있다.

AI 배포 간소화

엔비디아 EGX는 대규모 하이브리드 클라우드 및 엣지 운영을 가능하게 하고 이를 효율적으로 수행할 수 있게 하도록 설계된 클라우드 네이티브 소프트웨어 정의 플랫폼이다.

플랫폼 내에는 엔비디아 드라이버, 쿠버네티스 플러그인, 엔비디아 컨테이너 런타임 및 GPU 모니터링 도구가 포함된 EGX 스택이 있으며, 엔비디아 GPU 오퍼레이터(Operator)를 통해 제공된다. 운영자는 운영 지식과 워크플로우를 코드화하여 쿠버네티스를 통해 컨테이너형 애플리케이션의 라이프사이클 관리를 자동화한다.

GPU 오퍼레이터는 GPU 지원 쿠버네티스 시스템 프로비저닝에 필요한 모든 구성 요소의 배포를 표준화하고 자동화하기 위한 헬름 차트(Helm Chart)가 구축되어 있는 클라우드 네이티브 방식이다. 엔비디아와 클라우드 네이티브 커뮤니티에 속한 레드햇(Red Hat)을 비롯한 다른 업체는 GPU 오퍼레이터를 만들기 위해 협력했다.

GPU 오퍼레이터는 또한 IT 팀이 CPU 기반 시스템을 관리하는 것과 동일한 방식으로 원격 GPU 파워 서비스를 관리할 수 있도록 해준다. 따라서, 단일 이미지로 구성된 원격 시스템을 쉽게 도입할 수 있으며, 추가적인 전문 지식 없이도 엣지 AI 애플리케이션을 실행할 수 있다.

EGX 스택 아키텍처는 캐노니컬(Canonical), 시스코(Cisco), 마이크로소프트(Microsoft), 뉴타닉스(Nutanox), 레드햇, VM웨어(VMware)와 같은 하이브리드 클라우드 관리 파트너의 지원을 받아 구축을 더욱 단순화하고 클라우드, 데이터 센터에서부터 엣지까지 일관된 환경을 제공한다.