반도체 전문 온라인 매거진 - 올포칩

온디바이스 AI가 스마트폰과 IoT 기기, 자동차, 산업용 단말 등으로 확산되면서 기기 내부에 직접 배포되는 AI 모델과 추론 프로그램의 핵심 정보를 보호하기 위한 기술 개발도 본격화되고 있다. 

IoT·임베디드 보안 전문기업 쿤텍은 한국전자통신연구원(ETRI)이 주관하는 ‘On-Device AI 정보 유출 방지를 위한 AI 구현 정보 은닉 기술 개발’ 과제를 통해 AI 모델 난독화와 오염 분석(Taint Analysis) 기반 데이터 흐름 분석 기술을 개발하고 있다고 밝혔다. 

온디바이스 AI는 클라우드를 거치지 않고 기기 내부에서 AI 연산을 수행해 빠른 응답성과 데이터 프라이버시 측면에서 장점이 있다. 반면 AI 모델과 응용 프로그램이 단말에 직접 배포되기 때문에 공격자가 이를 확보할 경우 모델 구조와 파라미터, 데이터 처리 과정 등 핵심 구현 정보가 분석될 가능성이 있다. 

모델 난독화와 데이터 흐름 분석 결합 

쿤텍이 개발 중인 AI 모델 난독화 기술은 온디바이스 AI 모델을 MLIR(Multi-Level Intermediate Representation) 형태로 변환한 뒤 다양한 난독화 기능을 Pass 단위로 적용한다. 연산자 식별정보를 변경하고 가중치와 편향(Bias) 등의 파라미터를 분리·은닉하는 한편, 텐서 형상과 그래프 연결 구조를 변형해 외부에서 실제 모델 구조를 파악하기 어렵게 한다. 

또한 별도의 실행 정보를 이용해 난독화된 모델에서도 원래 연산이 정상적으로 수행되도록 설계했으며, 모델 특성과 보안 요구에 따라 난독화 기능을 선택적으로 조합할 수 있도록 했다. 

AI 추론과 직접 관련된 보호 대상을 자동으로 식별하는 기술도 개발하고 있다. C/C++ 기반 AI 응용 프로그램을 LLVM IR로 변환한 뒤 TFLite API를 기준으로 변수와 포인터, 함수 호출을 통해 데이터가 전달되는 과정을 추적한다. 이를 통해 단순한 코드 패턴이 아니라 실제 데이터 의존 관계를 분석해 AI 추론에 관여하는 코드를 식별할 수 있다. 

쿤텍은 향후 두 기술을 연계해 리소스가 제한된 온디바이스 환경에서 프로그램 전체가 아닌 AI 추론과 직접 관련된 핵심 코드와 정보만 선택적으로 보호하는 기술로 고도화할 계획이다. 관련 기술에 대해서는 AI 모델 구현정보 은닉과 오염 분석 기반 AI 추론 코드 보호 대상 자동 식별 등 2건의 특허 출원도 완료했다. 

방혁준 쿤텍 대표는 온디바이스 AI 확산에 따라 AI 모델뿐 아니라 응용 프로그램의 핵심 로직까지 보호할 필요성이 높아지고 있다며, 실제 제품 환경에서 활용할 수 있는 온디바이스 AI 정보 보호 기술을 확보해 나갈 것이라고 밝혔다.