반도체 전문 온라인 매거진 - 올포칩

인공지능 컴퓨팅 기술 분야를 선도하는 엔비디아가 엣지 환경에서 피지컬 AI(Physical AI)를 효율적으로 구현할 수 있는 최신 파운데이션 모델 '엔비디아 코스모스 3 엣지'를 최초로 선보였다.

40억 파라미터 옴니모델 아키텍처... 실시간 인식·추론·제어 일체화

피지컬 AI 시스템은 월드 모델을 활용해 복잡하고 가변적인 현실 세계를 인식하고 추론하며 예측하는 기술이다. 기존에는 프론티어급 AI를 엣지 환경에 배포할 때 모델 성능과 실행 효율성 사이에서 선택해야 하는 한계가 존재했다. 엔비디아 코스모스 3 엣지는 이러한 성능 간 절충을 해소하기 위해 개발된 40억 개 파라미터 규모의 옴니모델이다.

이 모델은 트랜스포머 혼합 아키텍처를 기반으로 설계되어 텍스트와 이미지, 영상, 주변 음향 및 동작 데이터를 통합 처리하고 생성한다. 메모리 사용을 최소화하면서 높은 처리량을 유지하도록 최적화되었으며, 엔비디아 젯슨, 엔비디아 RTX PRO, 엔비디아 DGX 시스템 및 지포스 RTX GPU 등 다양한 엣지 하드웨어에서 원활하게 구동된다. 동급 파라미터 모델을 대상으로 한 비전 분석 벤치마크인 빈티지 벤치에서 성공률 1위를 차지했으며, 사후 학습을 통해 최첨단 로봇 제어 정책을 지원한다.

로보틱스·자율주행·스마트 인프라 산업 전반에 온디바이스 AI 적용 확산

개발자는 엔비디아 DGX 스테이션 데스크사이드 슈퍼컴퓨터를 통해 자체 로봇 및 센서 데이터로 코스모스 3 엣지를 사후 학습시킬 수 있다. 이렇게 구축된 특화 월드 액션 모델은 엔비디아 젯슨 토르에 배포되어 정밀한 실시간 로봇 제어로 이어진다. 현재 두산 로보틱스, 지멘스, 애자일 로봇, 스킬드 AI 등 글로벌 산업 리더들이 로보틱스 워크플로우 도입을 위한 평가를 진행 중이다.

자율주행 자동차 분야에서는 탑재된 자원이 제한된 하드웨어에서도 도로 상황 인식, 교통 추론, 타 차량 객체 의도 예측을 수행한다. 엔비디아 알파마요 비전 언어 행동 모델을 비롯한 차량용 정책 경량화 시 경량 학생 모델의 백본 역할을 담당한다. 스마트 인프라 영역에서는 젯슨 토르 기반의 실시간 비전 에이전트로 동작하여 교통 모니터링, 공공 안전, 산업 검사 작업의 효율성을 높인다. 개발자는 20억 개 파라미터의 엔비디아 네모트론 추론 모듈을 엔비디아 젯슨 오린 8GB 환경에서 독립 실행할 수도 있다.

엔비디아 코스모스 3 엣지는 엣지 배포용 4B 모델 외에도 나노(16B), 슈퍼(64B) 등으로 구성된 엔비디아 코스모스 플랫폼 라인업에 포함되며, 개발자는 적용 목적과 컴퓨팅 환경에 맞추어 최적의 모델을 선택할 수 있다.