반도체 전문 온라인 매거진 - 올포칩

글/ 댄 클레멘트(Dan Clement) 수석 솔루션 마케팅 엔지니어, 온세미(onsemi)  

클라우드와 엣지 AI가 IoT를 변화시키는 방법

2019년 이전까지 대부분의 사물인터넷(IoT) 시스템은 종종 배터리로 구동되어 센싱 능력을 제공하는 초저전력 무선 센서 노드로 구성됐다. 주요 목적은 빅데이터 처리를 위해 원격 측정 데이터를 클라우드로 전송하는 것이었다. IoT가 새로운 유행이자 시장 트렌드로 떠오르면서, 거의 모든 회사들이 개념 증명(proofs of concept: PoC)을 가능하게 하기 위해 이러한 작업을 했다. 클라우드 서비스 제공업체는 데이터를 멋진 그래프 형식으로 표현하여 PoC를 지원하는 대시보드를 보유하고 있다. PoC의 주요 역할은 이해관계자들이 IoT에 투자하도록 설득하고, 보다 큰 프로젝트에 자금을 지원할 수 있도록 투자 수익률을 입증하는 것이었다.

이러한 생태계가 확장됨에 따라 클라우드를 통해 전송되는 데이터의 양이 지나치게 많아질 것이 분명해졌다. 이는 곧 대역폭 파이프라인이 막히고, 클라우드에서 데이터를 빠르게 처리하는 것이 어려워질 수 있음을 의미한다. 이로 인해 지연 시간이 최소화되고 기본적인 처리량이 보장되어야 하는 애플리케이션이 중단되는 상황이 발생할 수 있다.

5G와 와이파이 6E를 포함하는 표준에서 약속된 대역폭 및 전송 속도가 크게 개선됐 음에도 불구하고, 클라우드와 통신하는 IoT 노드의 수는 폭발적으로 증가했다. 노드 자체의 수가 증가하는 것 외에, 비용 또한 함께 증가하고 있다. 초기 IoT 인프라 및 플랫폼 투자는 수익화 되어야 하며, 보다 많은 노드가 추가될수록 인프라는 확장성과 수익성을 모두 갖춰야 한다.

2019년쯤부터 엣지 컴퓨팅은 인기 있는 솔루션이 되었다. 엣지 컴퓨팅은 로컬 센서 네트워크 내에서 고급 처리 기능을 구현함으로써 게이트웨이를 통해 클라우드를 오가는 데 필요한 데이터의 양을 최소화할 수 있다. 이는 직접적으로 비용을 절감시켜줄 뿐만 아니라 필요한 경우 추가 노드에 대한 대역폭을 확보할 수 있다. 노드당 전송되는 데이터의 양이 적을 경우, 데이터를 수집하고 클라우드로 전송하는 데 필요한 게이트웨이 수를 줄일 수 있다.

엣지 컴퓨팅을 향상시키는 또 다른 기술 트렌드는 인공지능(AI)이다. 초기의 AI 서비스는 주로 클라우드를 기반으로 이루어졌다. 이후 알고리즘의 효율화와 혁신을 거치면서, AI는 종점 노드로 매우 빠르게 이동하고 있으며 AI의 사용 역시 표준적인 실행이 되고 있다. 

이와 관련한 주목할 만한 예시는 아마존(Amazon)의 음성 비서 알렉사(Alexa)이다. 엣지 AI는 사용자가 트리거(trigger) 단어에 해당하는 ‘알렉사’라는 소리를 감지하고 반응하는데, 이와 같은 사용법은 이제 익숙하다. 이 경우 트리거 단어의 감지는 시스템의 마이크로 컨트롤러(MCU)에서 자체적으로 수행된다. 트리거가 성공적으로 이루어진 후, 나머지 명령들은 가장 까다로운 AI 프로세싱이 수행되는 와이파이 네트워크를 통해 클라우드로 이동한다. 이러한 방식으로 웨이크업(wakeup) 지연 시간을 최소화하여 최상의 사용자 환경을 제공한다.

엣지 AI 프로세싱은 대역폭 및 비용 문제의 해결 외에 애플리케이션에도 추가적인 이점을 제공한다. 예를 들어, 예측 유지 보수 시에 작은 센서를 전기 모터에 추가하여 온도와 진동을 측정할 수 있다. 훈련된 AI 모델을 사용하면 모터의 베어링에 불량이 생기거나 과부하 상태가 될 수 있는 시점을 매우 효과적으로 예측할 수 있다. 모터가 완전히 고장 나기 전에 정비할 수 있으려면 이와 같은 조기의 경고 알림이 매우 중요한 역할을 한다. 예측 유지 보수는 장비가 완전히 고장 나기 전에 사전 예방적으로 서비스되므로 라인의 다운 시간을 크게 단축할 수 있다. 이를 통해 비용을 대폭 절감하고 효율성의 손실을 최소화할 수 있다. 벤자민 프랭클린(Benjamin Franklin)의 "예방은 치료보다 나은 법이다"라는 말처럼 그렇다.

보다 많은 센서가 추가될 경우, 게이트웨이 역시 로컬 센서 네트워크의 원격 측정(telemetry) 데이터에 압도될 수 있다. 이 경우 데이터와 네트워크 정체를 완화할 수 있는 두 가지 선택권이 있다. 바로 더 많은 게이트웨이를 추가하거나 더 많은 엣지 처리를 종점 노드로 푸시 하는 것이다.

일반적으로 센서인 종점 노드에 더 많은 처리를 추진한다는 아이디어가 빠르게 추진력을 얻으며 진행되고 있다. 종점 노드는 일반적으로 mW 범위의 전력으로 실행되며, µW 범위의 전력으로 대부분의 시간을 절전 상태로 유지한다. 또한 종점 노드에 대한 저전력 및 비용 요구사항으로 인해 처리 능력이 제한적이다. 즉, 리소스가 매우 제한되어 있다는 점이다.

예를 들어, 일반적인 센서 노드는 64kB의 플래시와 8kB의 RAM을 가진 8비트 프로세서와 같이 간단한 마이크로 컨트롤러로 제어할 수 있으며 클럭 속도는 약 20MHz이다. 또는 마이크로 컨트롤러는 약 200MHz의 클럭 속도를 갖춘 512kB RAM과 2MB 플래시의 Arm Cortex-M4F 프로세스만큼 복잡할 수 있다. 

리소스가 제한된 종점 노드 디바이스에 엣지 프로세싱을 추가하는 것은 매우 어려운 일이며, 하드웨어와 소프트웨어 모두에 혁신 및 최적화가 이루어져야 한다. 그럼에도 불구하고, 종점 노드는 시스템 상에 존재하므로 가능한 많은 엣지 처리 능력을 추가하는 것이 훨씬 경제적이다. 

엣지 프로세싱은 종점 노드가 보다 스마트해지는 방향으로 진화할 것이다. 그러나 동시에 비용과 전력에 대한 낮은 리소스 요구 사항 역시 계속 고려해야 한다. 엣지 프로세싱은 클라우드 프로세싱과 마찬가지로 널리 사용될 것이다. 이는 올바른 위치에 기능을 할당할 수 있는 옵션을 통해 각 애플리케이션에 맞게 시스템을 최적화할 수 있으며, 최고의 성능 및 최저의 비용을 보장한다. 하드웨어 및 소프트웨어 리소스를 효율적으로 분배하는 것은 경쟁력 있는 성능과 비용적인 목표 사이의 균형을 맞추는 데 중요하다. 적절한 균형은 클라우드로의 데이터 전송과 게이트웨이의 수를 최소화하며, 센서 또는 종단 노드에 가능한 많은 기능을 추가할 수 있다.

초저전력 카메라의 예시

온세미의 RSL10 스마트샷(Smart Shot) 카메라는 그 자체적인 사용 또는 애플리케이션에 쉽게 추가할 수 있는 설계를 통해 다양한 문제를 해결한다. 이벤트 트리거형(event-triggered) AI 대응 이미징 플랫폼은 온세미와 생태계의 파트너사가 개발한 여러 핵심 구성 요소를 사용해, 엔지니어링 팀이 AI를 사용하는 객체 감지 및 인식 기능을 저전력 형식으로 쉽게 액세스할 수 있도록 돕는다.

채택된 기술은 작지만 강력한 ARX3A0 CMOS 이미지 센서를 통해 단일 프레임을 촬영한 후, 그 처리를 위해 클라우드 서비스에 업로드하는 기술이다. 전송하기 전에 이미지는 선플러스 이노베이션 테크놀로지(Sunplus Innovation Technology)의 이미지 센서 프로세서(ISP)에 의해 처리되고 압축된다. JPEG 압축을 적용하면 블루투스 저에너지(Bluetooth Low Energy) 통신 네트워크를 통해 게이트웨이 또는 휴대 전화(동반 애플리케이션도 사용 가능)로 이미지 데이터를 훨씬 빠르게 전송할 수 있다. 이미지 프로세서는 종단 노드와 같은 로컬 엣지 프로세싱의 좋은 예시이다. 이미지는 자체적으로 압축되고, 보다 적은 데이터는 클라우드로 무선 전송된다. 이는 사용 시간과 데이터의 클라우드 전송 시간을 단축하므로 전력 및 데이터 관련 비용 모두를 절약할 수 있다.

이미지 센서는 작동 시 단 3.2mW만을 소비하는 초저전력 작동을 위해 특별히 설계됐다. 관심 영역 설정과 같이 활성 전력을 더욱 줄일 수 있는 일부 온 센서(on-sensor)의 전처리를 제공하도록 구성하는 것 또한 가능하다. 이를 통해 관심 영역에서 물체/이동이 감지될 때까지 센서가 저전력 모드를 유지할 수 있다.

추가적인 처리 및 블루투스 저에너지 기술 통신은 완전히 인증된 온세미의 RSL10 시스템 인 패키지(RSL10 System-in-Package, RSL10SIP)를 통해 제공된다. 이 디바이스는 업계 최고의 저전력 작동을 자랑하며 시장에 출시되기까지 짧은 시간이 소요된다.

그림 1. RSL10 스마트 샷 카메라 구성요소

AI와 이미지 객체 감지

그림 1에서 볼 수 있듯이, 보드는 모션 센서, 가속도계, 환경 센서 등 활동을 트리거 하기 위한 여러가지 센서를 포함한다. 일단 트리거 되면, 보드는 블루투스 저에너지 기술을 통해 스마트폰으로 이미지를 전송할 수 있으며, 동반 애플리케이션은 이를 아마존 레커그니션(Amazon Recognition) 서비스와 같은 클라우드 서비스에 업로드할 수 있다. 

클라우드 서비스는 머신 비전 딥 러닝 알고리즘을 구현한다. RSL10 스마트샷 카메라의 경우, 클라우드 서비스가 객체를 감지하도록 설정돼 있다. 이미지가 처리되면 스마트폰 애플리케이션은 그 성공 확률과 함께 알고리즘이 감지한 내용으로 업데이트된다. 이러한 유형의 클라우드 기반 서비스는 머신 비전 알고리즘을 훈련하기 위해 수십억 개의 이미지를 가지고 있는 만큼 매우 높은 정확도를 자랑한다.

그림 2. 원활한 엣지 투 클라우드(Edge-to-Cloud) 연결

결론

본 기고에서 논의한 바와 같이, IoT는 필요에 따라 변화하고 최적화되어 대규모의 비용 효율적인 확장을 가능하게 한다. 전력, 대역폭 및 용량 문제의 해결에 도움이 되는 새로운 연결 기술들이 계속해서 개발되고 있다. AI는 지속적인 진화를 통해 보다 효율적이고 유능한 존재로 거듭났고, 엣지 및 종단 노드로의 이동이 가능해졌다. IoT는 지속적인 성장을 반영하듯 성장하고 적응하고 있으며, 미래의 성장에 대비하기 위해 준비하고 있다.

온세미의 RSL10 스마트샷 카메라는 최소 대역폭을 사용하는 스마트하고 저렴한 시스템을 구축하기 위해 이러한 문제를 어떻게 효율적으로 해결할 수 있을지 그 방법을 보여주는 현대적인 예시이다. 즉 이것이야 말로 최적화된 IoT 솔루션이라고 할 수 있다.

저전력 및 에너지 효율에 전략적인 초점을 맞추고 있는 온세미는 엣지에 AI를 도입함으로써 전력, 대역폭, 지연 시간과 같은 주요 문제들을 성공적으로 해결하는 기술을 개발하고 있다.