반도체 전문 온라인 매거진 - 올포칩

클라우드플레어(Cloudflare)가 모델 배포부터 활용 및 악용 방지까지 AI 애플리케이션에 대한 종합적인 가시성, 보안, 제어를 제공하는 툴 모음인 ‘AI용 클라우드플레어(Cloudflare for AI)’의 출시를 발표했다. AI용 클라우드플레어는 ▲직원의 부적절한 툴 사용 ▲유해한 프롬프트 ▲개인 식별 정보(PII) 유출 ▲신규 취약점 등 AI 모델이 직면한 주요 위협으로부터 조직을 보호한다. 

AI 기술의 발전으로 비즈니스 운영 방식이 빠르게 변화하고 있다. 제품 가격 책정, 재고 관리, 의료 데이터 분석에 이르기까지 다양한 분야에 새로운 AI 모델이 적극적으로 개발 및 통합되며 기업 혁신을 이끌고 있다. 특히, AI 모델의 접근성이 높아지면서 대규모 투자 없이도 모든 규모의 조직이 AI 기술을 적극 활용할 수 있게 되었다. 하지만 AI 실험이 보편화될수록 사이버 범죄자들이 AI 애플리케이션을 주요 공격 대상으로 삼고, 보안팀에서는 빠른 혁신 속도에 발맞추기 위해 고군분투하는 등 새로운 보안 위협이 끊임없이 등장하고 있다. 이에 따라 AI 모델을 안전하게 배포하고 활용하지 못하는 조직은 핵심 운영과 데이터 보호 측면에서 새로운 보안 위협에 직면할 위험이 크다. 

매튜 프린스(Matthew Prince) 클라우드플레어 CEO 겸 공동 창업자는 “향후 10년 동안 조직의 성패는 AI 전략에 달려있다. 혁신하는 기업은 번창하고 변화에 저항하는 기업은 도태될 것이다. 조직들이 새로운 모델을 구축하고 실험하며 혁신을 주도하기 위해 치열하게 경쟁하는 가운데, ‘빠르게 움직이고 혁신하라’는 기조가 이들의 모토로 자리잡았다”라며, “그러나 대부분의 경우 실험과 보안이 별개로 이루어진다. AI용 클라우드플레어는 AI를 신속하게 도입하고 활용할 수 있도록 필수적인 보호 장치를 마련해, 고객이 원하는 방향으로 자유롭게 혁신할 수 있도록 지원한다. 즉, 혁신의 속도를 늦추지 않으면서도 보안 문제를 해결하는 최적의 솔루션이다”라고 설명했다. 

AI용 클라우드플레어는 다음과 같은 기능을 통해 다양한 잠재적 위협으로부터 기업의 중요한 AI 모델을 보호한다:

• 미승인 애플리케이션을 포함한 모든 AI 애플리케이션 식별: 기업의 CISO(최고 정보 보안 책임자)는 전체 네트워크에 걸쳐 AI 사용을 보호한다. 하지만 보안팀에서는 AI가 어디에 사용되고 있는지에 대한 가시성이 부족한 경우가 많다. 이에 클라우드플레어는 AI용 방화벽을 통해 모든 AI 애플리케이션을 자동으로 쉽게 검색하고 레이블을 지정할 수 있도록 돕는다. 보안팀은 검색한 후 사용 보호를 위해 필요한 모든 조치를 검토하고 실행할 수 있다.
• 직원과 팀의 AI 사용 방식 모니터링 및 관리: AI 모델은 고객 인사이트, 가격 책정, 자동화, 인적 자원 등 조직 내 다양한 팀에서 활용되고 있다. 하지만 중요한 고객 및 비즈니스 정보가 노출되면 제어 능력을 회복하고 다시 효과적으로 보호하는 것이 불가능해진다. 클라우드플레어 AI 게이트웨이(Gateway)는 조직의 AI 애플리케이션에 대한 가시성을 제공하고 프롬프트 및 사용 패턴에 대한 인사이트를 수집할 수 있도록 지원한다.
• 직원과 사용자에 의한 민감한 정보 유출 방지: AI의 대중적인 확산으로 인해 조직은 일상 업무 생산성과 효율성을 높이기 위한 AI 툴을 적극 활용하고 있다. 무심코 독점적인 사업 전략, 고객 정보, 내부 문서 등의 회사 기밀 정보를 챗봇에 붙여 넣으면 지금은 무해해 보일지 모르나, 향후 데이터 유출이나 법적 문제가 발생할 수 있다. 클라우드플레어 AI용 방화벽은 조직이 중요한 데이터 유출을 식별하고 추가 피해가 발생하기 전에 경고하거나 잠재적으로 차단할 수 있도록 돕는다.
• 유해한 프롬프트 감지 및 차단: AI 모델에 부적절한 프롬프트나 주제를 제출하면 모델이 부정확하고 오해의 소지가 있는 출력을 제공할 수 있다. 클라우드플레어 AI 게이트웨이는 라마 가드(Llama Guard)와 통합돼 관리자가 유해한 프롬프트를 차단하는 규칙을 설정하고 궁극적으로는 의도된 용도에 따라 모델의 무결성을 유지할 수 있도록 지원한다.
• 보안을 유지한 채로 강력하고 확장 가능한 AI 애플리케이션 개발: 오늘날의 경쟁 환경에서 기업은 단순하고 저렴하며 안전한 AI 모델을 도입해야 한다. 클라우드플레어 워커스 AI(Cloudflare Workers AI)는 전 세계 190개 이상의 도시에서 GPU를 사용해 AI 애플리케이션을 구축하고 배포할 수 있는 가장 강력한 플랫폼을 제공한다. 이를 통해 기업은 보안이 내장된 상태에서 전 세계 어디에 있든 사용자와 가까운 곳에서 효율적으로 AI 솔루션을 구현할 수 있다.
• AI 애플리케이션의 안정성 및 복원력 강화: 벤더가 구축한 AI 애플리케이션이나 내부적으로 개발한 AI 애플리케이션이 자동화된 크롤러와 공격자의 표적이 되거나 악용되는 경우가 증가하고 있다. 클라우드플레어의 애플리케이션 보안 및 성능 기능은 중요한 AI 애플리케이션에 대한 원치 않는 액세스를 차단하고 공격을 중지시킨다. 동시에 트래픽을 라우팅하고 부하를 분산하며 최적화해 안정성과 신뢰성을 높인다.