반도체 전문 온라인 매거진 - 올포칩

클라우드플레어(Cloudflare)는 거대언어모델(LLM)을 상대로 한 남용과 공격을 식별하는 새로운 보호 레이어(layer)인 ‘AI용 방화벽(Firewall for AI)’을 선보인다고 밝혔다. 클라우드플레어는 자사 세계 최대 규모 글로벌 네트워크를 기반으로, AI용 방화벽을 통해 고객이 LLM 내에 있는 기능, 주요 데이터, 영업 비밀을 노리는 공격에 대응할 수 있도록 지원한다는 방침이다. 

최근 실시된 한 조사에 따르면 최고 경영진 4명 중 1명만이 자신의 조직이 AI로 인한 위험에 대비하고 있다고 확신하는 것으로 나타났다. LLM을 보호하는데 있어 사용자 상호작용을 제한하는 것은 거의 불가능하다. 또한, LLM은 동일한 입력 값이 주어져도 다양한 결과물을 생성할 수 있는 등 사전 설계에 의해 미리 결정되지 않는다는 점으로 인해 처음부터 적절한 보안 시스템을 구축하는 것이 어렵다. 이 때문에 LLM은 위협 행위자에게 무방비 상태가 되어 조직이 모델 조작, 공격 및 남용에 취약한 상태로 노출되는 결과를 야기한다. 

매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 “새로운 유형의 애플리케이션이 등장하면 새로운 유형의 위협도 빠르게 뒤따르기 마련이다. AI 기반 애플리케이션도 마찬가지다”라며 “클라우드플레어는 자사 AI용 방화벽을 통해 AI 환경의 보안 구축을 처음부터 돕고 있다. AI 모델을 위한 최초의 보호막 중 하나를 제공하여, 기업이 기술 발전이 선사하는 기회를 활용함과 동시에 보호받을 수 있도록 지원하고자 한다”고 말했다. 

시장 조사 기관 가트너(Gartner)에 따르면, 생성형 AI 애플리케이션은 단독으로 보호할 수 없으며, 생성형 AI 전용 보안 제어 기능을 계획하고 배포하기 전에 반드시 클라우드, 데이터 및 애플리케이션 보안의 견고한 기반이 마련되어야 한다. 클라우드플레어의 AI용 방화벽은 기존의 포괄적인 보안 플랫폼에 레이어를 추가하여 새로운 기술로 인한 위협을 궁극적으로 차단한다.