반도체 전문 온라인 매거진 - 올포칩

AI 모델의 소형화와 효율성이 빠르게 향상되면서 스마트 드론과 로봇, 비전 AI 시스템 등에서 생성형 AI를 직접 실행하는 엣지 AI 시장이 확대되고 있다. 엔비디아는 이러한 수요에 대응해 성능과 에너지 효율성을 높인 새로운 로보틱스 컴퓨터 ‘젯슨 오린 나노 2(Jetson Orin Nano 2)’를 공개했다. 

젯슨 오린 나노 2는 초당 78TOPS의 AI 컴퓨팅 성능과 8GB 메모리, 8코어 Arm CPU를 탑재했다. 향상된 텐서 코어와 높은 메모리 대역폭을 기반으로 기존 젯슨 오린 나노 슈퍼와 동일한 소형 폼팩터에서 2배 높은 추론 성능을 제공한다. 15W 모드에서는 이전 모델과 동일한 성능을 유지하면서 전력 소비를 40% 줄였다. 

최근 중소형 AI 모델이 빠르게 발전하면서 엣지 디바이스에서도 언어와 이미지를 해석하고 주변 상황을 이해해 실시간으로 행동하는 AI 구현이 가능해지고 있다. 엔비디아는 젯슨 오린 나노 2를 통해 이러한 생성형 AI와 피지컬 AI 기능을 비용과 전력이 제한된 소형 시스템까지 확대한다는 전략이다. 

소형 로봇·드론에서 LLM·VLM 실시간 추론 

젯슨 오린 나노 2는 엔비디아의 오픈 소프트웨어 스택과 젯슨 에이전트 스킬, AI 생태계를 기반으로 메모리 효율적인 엣지 추론에 최적화된 최신 대규모 언어 모델(LLM)과 비전 언어 모델(VLM)을 실행할 수 있다. 엔비디아 코스모스와 네모트론, 젬마 4, 큐웬 3 등의 오픈 모델도 지원한다. 

엔비디아 로보틱스 및 엣지 AI 부문 디푸 탈라(Deepu Talla) 부사장은 “오늘날의 중소형 프론티어 모델은 지난해 최대 규모의 프론티어 모델과 동등한 수준의 정확도를 달성하며 엣지 디바이스에서 실시간 인텔리전스를 구현할 수 있게 됐다”며 젯슨 오린 나노 2가 스마트 드론과 로봇, 비전 AI 시스템에 필요한 실시간 추론 성능과 에너지 효율성을 제공한다고 설명했다. 

현재 300만 명 이상의 개발자가 엔비디아 로보틱스 스택을 활용하고 있으며, 코그넥스와 두산밥캣, 매틱, 윙 등이 젯슨 오린 나노 2를 우선 도입하거나 활용을 검토하고 있다. 

드론 배송 기업 윙은 실시간 AI 인식과 추론 성능을 높이기 위해 젯슨 오린 나노 2 도입을 검토하고 있다. 매틱 로봇은 가정용 청소 로봇에 이를 적용해 대화형 AI와 제스처 인식, 정밀 매핑, 의미론적 이해 등을 구현하고 있다. 

엔비디아 젯슨 생태계 파트너들도 캐리어 보드와 하드웨어 시스템, 레퍼런스 솔루션 등을 개발해 젯슨 오린 나노 2 기반 엣지 AI 및 로보틱스 제품의 시장 출시를 지원할 예정이다.