엔비디아, 클라라 AGX AI 개발자 키트 공개
의료기기에 AI 통합 지원
2020년 12월 04일
트위터로 보내기페이스북으로 보내기구글플러스로 보내기

2dff494f60fe63ce590d57de8bb4d492_1607032709_5583.jpg


엔비디아(www.nvidia.co.kr , CEO 젠슨 황)는 의료기기에 AI 통합을 지원하는 엔비디아 클라라 AGX 개발자 키트(NVIDIA Clara AGX Development Kit)를 공개했다. 

 

의료기기 알고리즘의 연구·개발에는 최첨단 알고리즘 구축을 위한 고급 컴퓨팅 성능을 갖춘 전문 PC가 필요했다. 병렬 컴퓨팅 플랫폼과 프로그래밍 모델 쿠다(CUDA)의 등장으로 많은 의료 디바이스, 의료 기기 및 모델에 엔비디아 GPU가 통합됐다. 이를 통해 고성능 알고리즘 워크로드를 위한 소프트웨어 개발이 가능해졌다. 현재 의료 영상 워크플로우에도 AI가 채택되고 있는 가운데, 그 범위는 영상 혹은 이미지 캡처가 가능한 의료기기 등을 포함해 의료 영상이 활용되는 영역으로 확대되고 있다. 의료기기에 AI를 통합하려는 요구가 증가함에 따라, 새로운 기능의 개발을 가속화하기 위한 컴퓨팅 리소스에 대한 필요성이 높아지고 있다. 

 

엔비디아 클라라 AGX 개발자 키트는 이러한 요구사항을 해결함으로써 의료기기를 대상으로 하는 고급 알고리즘 및 AI 기술 연구를 가능케 한다. 클라라 AGX 개발자 키트에는 젯슨 AGX 자비에(Jetson AGX Xavier), 멜라녹스 Connect X-6 NIC, RTX 6000 GPU, HDMI 2.0 입력이 포함돼 있다. 클라라 AGX SDK는 컨테이너화 런타임 및 AI 기술 예시와 함께 필수 운영체제(OS), 드라이버, 라이브러리를 제공한다. 이러한 하드웨어와 소프트웨어의 결합을 통해 의료기기 제조업체, 소프트웨어 개발자, 의료 연구계가 보다 쉽게 의료기기에서 진보된 AI 성능을 구현할 수 있는 독보적인 플랫폼을 제공한다. 

 

AI 기술 개발을 위한 확장 가능한 컴퓨팅

젯슨 AGX 자비에 위에 구축된 클라라 AGX 개발자 키트는 젯슨 제품군이 제공하는 매우 풍부하고 다양한 라이브러리와 툴 생태계를 지원한다. 젯슨 AGX 자비에 모듈은 불과 10W의 전력으로 최대 32TOPS(초당 테라 연산)의 성능을 제공하며 AI 기반 오토노머스 머신을 구현한다. 업계 선도적인 AI 컴퓨팅 플랫폼 중 하나인 클라라 AGX 개발자 키트는 엔비디아의 풍부한 AI 툴과 및 워크플로우 세트를 활용해 개발자들이 신경망을 신속하게 훈련하고 구축할 수 있도록 한다. AI 애플리케이션 구축을 위한 종합 솔루션인 젯팩 SDK(Jetpack SDK)는 표준 리눅스(Linux) OS, 보드 구성품을 지원하는 BSP, 쿠다 지원을 포함한 클라라 AGX 개발자 키트를 제공하며, 이를 통해 쿠다 가속화를 위한 생태계 전반을 함께 지원한다. 또한, 클라라 AGX SDK에는 스트리밍 데이터 처리 파이프라인을 구축하기 위한 리버맥스(Rivermax) 및 딥스트림(Deepstream)과 EGX를 통한 배치를 지원하기 위한 컨테이너화 런타임, 특정 사용사례를 모델링하는 레퍼런스 애플리케이션이 포함돼 있다. 

 

젯슨 플랫폼은 제품화에 매우 적합하지만, 차세대 알고리즘 개발을 위해서는 개별 엔비디아 GPU가 제공하는 컴퓨팅 리소스를 늘려야 한다. RTX GPU의 높은 성능은 코드 최적화에 소요되는 시간을 줄이며, 성능 저하 없이 알고리즘 실험을 가능하게 한다. 

 

클라라 AGX 개발자 키트에는 엔비디아 RTX 6000 GPU가 포함돼 있으며, 최고 200 이상의 AI TOPS INT8 컴퓨팅 성능을 제공한다. RTX 6000은 가장 복잡하고 까다로운 AI 애플리케이션의 다중 추론 파이프라인을 동시에 실행할 수 있어 최신 AI 모델 연구 개발을 가능케 한다. 

 

연구개발 단계가 마무리되고 최종 AI 모델이 준비되면, 개발자는 해당 모델을 최적화하고 확장성이 뛰어난 아키텍처에 배치할 수 있다. 낮은 전력이 필요하다면, 소형 폼팩터의 전력과 규모 예산에 부합하는 젯슨 제품군을 활용할 수 있다. 젯슨 제품군과 RTX GPU의 올바른 조합으로 제품화된 시스템을 통해 고성능 사용사례를 구축할 수 있다. 엔비디아는 하나의 애플리케이션 소프트웨어 세트에서 완전 확장 가능한 제품군을 제공하고 있다. 

 

고대역폭 센서를 위한 확장 가능한 연결성

의료기기는 다른 임베디드 시스템과 마찬가지로 업스트림 센서와 GPU 간의 높은 대역폭 연결이 필요하며, 이는 GPU 다이렉트(GPU Direct) 또는 RDMA 스트리밍을 통해 이루어진다. 클라라 AGX 개발 키트는 두 개의 서로 다른 방식을 통해 특화된 방식으로 연결시킨다. 

 

먼저, 엔비디아 멜라녹스 ConnectX-6 NIC를 통합해 100G와 10G 이더넷을 모두 지원한다. 멜라녹스 ConnectX-6 NIC는 풀 라인 속도로 RTX 6000 GDDR DRAM에 GPU 다이렉트를 지원한다. 클라라 AGX 개발 키트는 네트워킹 스택을 오프로드해 CPU 사용률에 미치는 영향은 최소화하고, 스트리밍 센서 데이터 패킷은 최고의 처리량과 성능을 발휘하게 된다. 

 

두 번째로, PCIe Gen4x8 슬롯 2개가 사용 가능하며 이는 커스텀 PCIe 카드 및 추가적인 네트워크 인터페이스 카드를 지원한다. 첫 번째 PCIe 포트는 엔비디아 멜라녹스 ConnectX-6 NIC의 통합 스위치와 연결된다. 해당 포트는 RDMA 데이터를 바로 RTX6000 GDDR DRAM으로 전송할 수 있도록 한다. 이러한 포트의 활용 예시로는 다중 4k60 12G SDI 입력이 가능한 커스텀 비디오 캡처 카드가 있다. 두 번째 PCIe 포트는 젯슨 AGX 자비에 모듈에 직접 연결된다. 해당 포트는 외부 호스트에 연결하거나 커스텀 카드를 통해 특수 출력을 사용할 수 있다. 

 

파트너 개발자 프로그램

엔비디아는 또한 클라라 AGX 개발 키트를 위한 파트너 개발 프로그램을 발표했다. 파트너 개발자 프로그램은 엔비디아 하드웨어 및 협업 네트워킹 등으로 구성되어 있다. 클라라 AGX 개발 키트의 구매를 희망할 경우, 해당 링크 통해 신청하거나 엔비디아 지역 담당자를 통해 자세한 구매 관련 정보를 확인할 수 있다. 

 

또한, 엔비디아 가을 GTC에서 발표된 마티아스 블레이크(Mathias Blake), 주하 투키넨(Juha Tukkinen), 브라이언 필리(Brian Feeley) 박사의 심층 프레젠테이션인 ‘AI에 의해 구동되는 의료 기기 구축(Architecting AI-Powered Medical Instruments)’을 통해 클라라 AGX에 대한 보다 자세한 정보를 확인할 수 있다. 이는 AI 혁신이 의료 기기 산업에서 가치를 창출하는 방법과 더불어, 클라라 AGX가 그 혁신의 과정에서 맡을 역할에 대해 설명하고 있다.

그래픽 / 영상
많이 본 뉴스