AI가 키운 사이버 위협…가트너, 딥페이크·프롬프트 인젝션 등 4대 위험 경고

2026년 06월 10일

생성형 AI와 에이전틱 AI 확산이 기업 혁신을 가속하는 동시에 새로운 사이버 위협도 키우고 있다. 특히 딥페이크 기술 고도화와 AI 애플리케이션 확대가 기존 보안 체계를 무력화하면서 기업 보안 전략 전반의 재점검이 필요하다는 지적이 나왔다.

가트너는 최근 공격자가 조직의 취약점을 악용해 우위를 점할 수 있는 주요 사이버 위협으로 딥페이크, AI 애플리케이션 침해, 프롬프트 인젝션, 소프트웨어 공급망 공격 등 4가지를 선정했다고 밝혔다. 가트너는 위협 신호의 강도와 조직의 대응 역량을 기준으로 각 위협을 분석했다.

가트너에 따르면 생성형 AI 발전으로 음성, 영상, 이미지 분야의 딥페이크 생성 능력이 빠르게 향상되면서 실시간 신원 사칭 공격 위험도 커지고 있다. 공격자는 이를 활용해 생체인증을 우회하거나 임직원을 대상으로 한 사회공학적 공격, 채용 절차 교란 등을 시도할 수 있다. 이에 따라 기업은 단순 탐지 기술을 넘어 인증 체계 강화와 조건부 접근 정책, 회의 보안 강화 등을 포함한 다층 방어 체계를 구축해야 한다고 권고했다.

AI 도입 늘수록 공격 표면도 확대

기업 환경에 도입되는 AI 애플리케이션 역시 새로운 공격 대상이 되고 있다. 자체 개발 에이전트와 서드파티 연동 서비스, 임직원 전용 AI 도구가 늘어나면서 민감 데이터와 자격 증명이 노출될 가능성이 높아지고 있기 때문이다. 가트너는 AI 개발 및 운영 과정에서 신뢰·위험·보안 관리(TRiSM) 프레임워크를 적용해 보안 체계를 강화해야 한다고 설명했다.

프롬프트 인젝션도 주요 위협으로 지목됐다. 공격자가 악성 프롬프트를 주입해 대규모 언어모델(LLM)의 동작을 왜곡하고 민감 정보를 유출하거나 권한이 없는 작업을 수행하도록 유도하는 방식이다. 이에 대응하기 위해서는 입력값 검증, AI 보안 테스트, 런타임 가드레일 구축, 지속적인 모니터링 체계가 필요하다고 강조했다.

또한 생성형 AI 확산은 오픈소스 소프트웨어와 AI 모델을 노리는 공급망 공격 위험도 높이고 있다. 가트너는 기업들이 소프트웨어 자재명세서(SBOM)와 AI 자재명세서(AIBOM)를 확보하고, 검증된 저장소 사용과 코드 서명, 최소 권한 접근 통제 등을 통해 개발 및 운영 전 과정의 보안을 강화해야 한다고 조언했다.

존 왓츠 가트너 VP 애널리스트는 "AI 기업들이 새로운 보안 기술을 도입하는 과정에서 위협 환경은 오히려 더욱 복잡해지고 있다"며 "사이버보안 책임자는 변화하는 위협 신호를 지속적으로 식별하고 이에 맞는 대응 체계를 구축해야 한다"고 말했다.