반도체 전문 온라인 매거진 - 올포칩

엣지 AI가 본격적으로 확산되면서 제한된 전력과 메모리 환경에서도 복잡한 AI 모델을 빠르고 효율적으로 실행할 수 있는 전용 가속 기술이 중요해지고 있다. 노르딕 세미컨덕터는 자체 개발한 액손(Axon) NPU를 통해 초저전력 무선 SoC 기반의 엣지 AI 성능과 개발 편의성을 동시에 강화하고 있다. 

액손 NPU는 신경망을 보다 빠르고 효율적으로 실행하기 위한 AI 전용 프로세싱 코어다. 노르딕의 독자적인 아키텍처를 기반으로 초저전력과 높은 프로세싱 성능을 동시에 구현하며, 1D 및 2D 컨볼루션, 깊이별 컨볼루션, 완전 연결 레이어, 풀링, 요소별 산술 연산 등을 8bit 양자화 데이터 기반으로 가속한다. 

이를 통해 키워드 감지와 호출어 인식 같은 오디오 분류 애플리케이션은 물론, CPU에서 실행할 경우 과도한 지연 시간과 낮은 효율을 초래할 수 있는 보다 복잡한 LiteRT 모델도 효율적으로 처리할 수 있다. nRF54LM20B에 통합된 액손 NPU는 텐서플로우 라이트 기반 모델을 CPU보다 최대 15배 빠른 추론 속도로 실행해 고속 센서 스트림과 오디오, 이미징 애플리케이션에 적합하다. 

AI 모델 생성부터 SDK 통합까지 지원 

노르딕은 액손 NPU를 보다 쉽게 활용할 수 있도록 로컬 및 클라우드 기반 개발 워크플로우를 제공한다. 노르딕 엣지 AI 랩은 커스텀 데이터셋을 기반으로 분류 또는 회귀 모델을 생성할 수 있으며, 텍스트 입력만으로 호출어 모델을 만드는 ‘텍스트 기반 호출어 생성’ 기능도 지원한다. 수천 개의 음성 샘플을 수집하고 레이블을 지정하는 과정 없이 초기 단계에서 음성 트리거를 평가할 수 있다는 점이 특징이다. 

액손 컴파일러는 .tflite 또는 .h5 형식의 AI 모델을 액손 NPU에서 실행 가능한 헤더 파일로 변환하며, 메모리 사용량과 추론 시간, 정확도, 혼동 행렬, 양자화 손실 등의 성능 지표도 제공한다. 엣지 AI 애드온은 액손 NPU 드라이버와 코드 샘플, nRF 엣지 AI 라이브러리를 제공해 생성된 모델을 nRF 커넥트 SDK 애플리케이션에 통합할 수 있도록 지원한다. 

서드파티 플랫폼인 엣지 임펄스도 액손 NPU를 정식 지원한다. 개발자는 기존 방식으로 모델을 학습한 뒤 액손 NPU 아키텍처용 라이브러리나 nRF54LM20 DK용 펌웨어 이미지로 생성할 수 있어 별도의 액손 컴파일러를 사용하지 않고도 NPU에서 모델을 실행할 수 있다. 

노르딕은 액손 NPU를 nRF54L 시리즈뿐 아니라 셀룰러 IoT 모듈인 nRF92 시리즈와 향후 다양한 무선 기술을 지원하는 SoC로 확대할 계획이다. 전용 AI 가속기와 통합 개발 환경의 결합은 초저전력 최종 기기에서 고급 AI를 구현하기 위한 진입 장벽을 낮추고, 무선 엣지 AI 애플리케이션의 적용 범위를 더욱 넓힐 것으로 기대된다.