반도체 전문 온라인 매거진 - 올포칩

마이크로소프트가 취약점 발굴부터 검증과 증명 및 대응까지 단계형 파이프라인을 갖춘 에이전틱 보안 분석 시스템을 공개하며 인공지능 기반 보안 기술의 새로운 정점을 제시했다. 마이크로소프트(Microsoft) 자율 코드 보안 ACS 팀이 구축한 멀티 모델 에이전틱 스캐닝 하네스인 MDASH는 단일 모델 접근 방식의 한계를 극복하기 위해 프런티어 모델과 증류 모델을 결합한 앙상블 아키텍처를 적용했다. 이 시스템은 100개 이상의 전문 AI 에이전트가 취약점 발견부터 검증과 토론 그리고 악용 가능성 증명까지 전 과정을 엔드투엔드로 수행하도록 설계되었으며 단일 모델의 성능이 아닌 다수 모델과 에이전트를 결합한 시스템 아키텍처 자체가 보안 성능의 핵심이라는 점을 보여준다.

마이크로소프트는 이 시스템을 활용해 윈도우 네트워킹 및 인증 스택 전반에서 16개의 신규 취약점을 식별해냈다. 이 가운데 4건은 치명적 원격 코드 실행 취약점으로 윈도우 커널 TCP/IP 스택과 IKEv2 서비스 등 핵심 구성요소에서 발견되었으며 단순 패턴 매칭만으로는 포착하기 어려운 레이스 컨디션 기반 UAF 결함 유형 등 복잡한 결함도 함께 확인되었다. 실전 대응 역량을 보여주는 공개 사이버짐 벤치마크에서는 88.45퍼센트의 성공률로 리더보드 최고 점수를 기록하며 2위 대비 약 5포인트 높은 수치를 달성했다. 또한 마이크로소프트 보안 대응 센터인 MSRC의 5개년 확정 사례를 기준으로 한 회고 평가에서도 clfs.sys 파일에서 96퍼센트, tcpip.sys 파일에서 100퍼센트의 높은 재현율을 기록했다.

이번 취약점 발굴은 보안 감사가 매우 까다로운 자사 코드베이스의 특수성을 극복했다는 점에서 큰 의미가 있다. 윈도우와 하이퍼-V 및 애저(Azure) 등은 방대한 비공개 코드 영역과 서비스 생태계로 구성되어 범용 AI 모델의 학습 데이터에서 제외되는 영역이다. 이로 인해 커널 호출 규칙이나 IPC 신뢰 경계는 단순 패턴 매칭이 아니라 코드 흐름과 객체 생명주기 그리고 동시성까지 고려한 고도화된 추론이 요구된다. 대규모 데브섹옵스 환경에서는 취약점이 발견되면 담당자 배정과 분류를 거쳐 정기 보안 업데이트인 패치 화요일에 반영되는데 오탐으로 인한 불필요한 경고가 증가할 경우 대응 비용이 커지기 때문에 MDASH의 정확한 필터링 능력이 더욱 주목받고 있다.

MDASH는 준비부터 증명까지 이어지는 5단계 자동화 파이프라인을 통해 확실한 검증 결과를 산출한다. 소스 분석과 위협 모델링을 수행하는 준비 단계를 시작으로 후보를 발굴하는 스캔과 에이전트 간 교차 검증을 거쳐 중복을 제거한 뒤 취약점을 실제로 재현할 수 있는 입력을 구성하고 실행하여 최종적으로 취약점을 입증하는 구조다. 이 파이프라인은 모델 앙상블을 단계별로 운용하고 모델 간 판단 불일치를 신뢰도 신호로 활용하며 플러그인을 통해 내부 맥락을 주입하는 등 핵심 속성을 갖추고 있다. 모델 불가지론적 설계 덕분에 새로운 모델이 도입되더라도 시스템 전체를 재구축할 필요 없이 설정 변경과 A/B 테스트만으로 즉시 반영이 가능하다.

마이크로소프트는 인공지능 기반의 취약점 발굴이 단순한 연구 단계를 넘어 실전 엔지니어링 영역으로 완벽히 전환되고 있다고 평가했다. 기술적 지속성을 위해 프로젝트별 컨텍스트와 스캔 플러그인 및 증명 에이전트 구성은 그대로 유지하면서 새로운 모델의 교체를 유연하게 흡수하는 아키텍처를 완성했다. 마이크로소프트 김태수 에이전틱 보안 부사장은 "MDASH는 마이크로소프트 엔지니어링 팀이 상용 AI 모델을 활용해 보안 성과를 실질적으로 개선하는 데 큰 도움을 주고 있다"고 밝히며 "앞으로도 마이크로소프트는 모두에게 더 안전한 디지털 세상을 만들기 위한 기술적 노력을 이어갈 것"이라고 강조했다.