반도체 전문 온라인 매거진 - 올포칩

인공지능 컴퓨팅 기술 분야의 선두주자인 엔비디아(NVIDIA)가 미국 라스베이거스에서 개최된 블랙햇(Black Hat) 연례 콘퍼런스에서 120여 개 조직이 참여하는 오픈 시큐어 AI 얼라이언스(Open Secure AI Alliance) 회원사들과 함께 에이전틱 AI 사이버 보안 강화를 위한 가이드라인을 개발 중이라고 발표했다. 리눅스 재단(Linux Foundation)은 에이전틱 AI 사이버 보안 사고 대응 및 정보 공유를 위한 세이프(SAFE)의 의견 수렴 요청서(RFC)를 공개했다. 세이프 가이드라인은 AI 관련 사고와 위험 요소를 기밀로 수집 및 분석하고 실시간 권고안을 제시해 생태계 전체를 보호하는 공동 방어 체계 구축을 목표로 한다.

위협 정보 공유를 통한 집단 방어 체계 구축 및 시장 배경

최근 인공지능(AI) 기술의 중심축이 단순 모델에서 스스로 판단하고 작업을 수행하는 에이전틱 AI로 이동함에 따라 새로운 사이버 보안 위협이 급격히 늘어나고 있다. AI 에이전트는 단일 모델이 아니라 정체성 제어, 하네스, 가드레일, 로그, 평가 체계가 복합적으로 결합된 시스템이므로 기존의 단순 취약점 점검만으로는 한계가 명확하다. 기술 전환기마다 공격 표면이 확대되는 상황에서 방어자가 지식재산과 인프라를 보호하기 위해서는 위협 인텔리전스를 투명하게 공유하는 협력 체계가 필수적이다. "사이버 보안은 결승선이 없는 경주"라는 업계의 시각처럼, 보안 담당자들이 현장 경험과 사고 사례를 개방적이고 신속하게 공유할 때 집단 방어의 효과가 극대화된다.

풀스택 개방형 기술을 통한 에이전틱 인공지능 보안 생태계 확장

세이프 프레임워크는 엔비디아, 시스코(Cisco), 크라우드스트라이크(CrowdStrike), 허깅페이스(Hugging Face), 레드햇(Red Hat) 등 회원사의 기술적 기여를 바탕으로 확장되고 있다. 엔비디아는 에이전트 동작의 테스트와 감사를 지원하는 연구용 하네스인 엔비디아 랩스 객체 지향 에이전트(NVIDIA Labs Object-Oriented Agent)와 접근 범위를 제한하는 오픈쉘(OpenShell) 런타임을 깃허브에 공개하며 기술 스택 전 계층을 지원하고 있다.

더불어 엔비디아는 에이전틱 AI용 네모트론(Nemotron), 피지컬 AI용 코스모스(Cosmos), 자율주행용 알파마요(Alpamayo) 등 개방형 모델 제품군과 함께 프롬프트 인젝션을 검사하는 에이전트 스킬, 네모 가드레일(NeMo Guardrails), 거대 언어 모델(LLM) 취약점 스캐너인 가락(Garak)을 통합 제공한다. 이와 함께 회원사들은 아이덴티티 및 권한 관리, 런타임 가드레일, 데이터 보안 등 방어 스택 전반에 걸쳐 개방형 도구 개발을 가속화하고 있다.

이번 가이드라인과 개방형 보안 도구의 확산은 기업들이 검증되고 안전한 환경에서 에이전틱 AI를 도입할 수 있는 기반을 제공할 것으로 기대된다. 민간과 협의체가 주도하는 실시간 위협 정보 공유와 소프트웨어 풀스택 지원은 고도화되는 AI 사이버 위협에 민첩하게 대응하고, 글로벌 산업 전반의 자율형 AI 생태계 안전성과 복원력을 크게 높일 전망이다.