AMD, 윈도우 AI PC에서 로컬 128B 파라미터 LLM 지원

2025년 07월 31일

AMD가 국내 시각 7월 29일 오후 10:00시(미국 동부 시각 기준 7월 29일 오전 9:00시)에 새로운 KB 드라이버를 발표했다. 이는 아드레날린 에디션 25.8.1 드라이버의 일부로 포함되며, 라이젠(Ryzen) AI 맥스+ 395 128GB 프로세서를 통해 최대 128B 파라미터의 대형 언어 모델(LLM)을 윈도우에서 로컬로 실행할 수 있도록 한다. 이번 성과는 메타의 라마 4 스카우트 109B(Llama 4 Scout 109B) 모델의 비전 기능 및 MCP(Model Context Protocol)를 라마.ccp(llama.cpp)와 불칸(Vulkan)을 통해 지원함으로써, 이 크기의 모델을 실행할 수 있는 최초의 소비자용 프로세서로 위상을 확립했다.

AMD VGM(Variable Graphics Memory)의 개선을 통해 시스템 램을 재할당하여 최대 96GB의 연속적이고 전용된 그래픽 메모리를 iGPU에 사용할 수 있도록 함으로써, 외장 GPU 없이도 대형 모델(4비트 기준 128B 또는 FP16 기준 32B)을 로컬에서 실행할 수 있다.

이번 아드레날린 드라이버 업데이트를 통해 AMD는 다음과 같은 기능을 제공한다:

비전 기능 및 툴 사용을 포함한 라마 4 스카우트 109B 모델을 로컬에서 실행할 수 있는 최초의 윈도우 AI PC
장문의 문서, 다단계 추론 및 AI 에이전트 워크플로우를 위한 256,000 토큰 컨텍스트 윈도우 지원
경량 어시스턴트부터 코딩 및 시각 작업용 고급 툴에 이르기까지 다양한 모델을 유연하게 실행 가능

프레스 덱, 발표 블로그, FAQ 블로그, 데모 영상 등을 포함한 자료는 해당 BOX 폴더 링크를 통해 확인할 수 있다.