반도체 전문 온라인 매거진 - 올포칩

기업의 생성형 AI 활용이 확대되면서 AI 인프라를 어디에 구축할 것인지가 새로운 비용 최적화 과제로 떠오르고 있다. 사용자와 AI 에이전트가 늘어날수록 클라우드에서 처리해야 할 토큰도 증가하기 때문이다. AMD는 기업 IT 리더가 이러한 AI 워크로드의 경제성을 직접 분석할 수 있는 ‘AMD 클라이언트 토크노믹스 계산기(AMD Client Tokenomics Calculator)’를 출시했다. 

이 계산기는 AI 워크로드를 클라우드에서만 처리하는 방식과 AI PC 등 클라이언트 디바이스에서 로컬로 처리하는 방식, 두 환경을 결합한 하이브리드 방식의 비용을 비교한다. 단순한 하드웨어 가격 비교가 아니라 AI 사용량에 따라 지속적으로 발생하는 토큰 비용까지 포함해 기업의 AI 도입 비용을 분석하는 것이 특징이다. 

사용자는 팀 규모와 분석 기간, AI 워크로드의 유형 및 사용 비중, 클라우드 AI 모델 등을 직접 설정할 수 있다. 이를 토대로 최대 5년간 예상되는 총소유비용(TCO)과 누적 지출을 비교하고, 클라우드 대비 로컬 및 하이브리드 환경의 손익분기점과 가장 낮은 비용이 예상되는 배포 방식을 확인할 수 있다. 워크로드에 적합한 AMD 하드웨어 구성도 제안한다. 

에이전틱 AI 확산에 ‘토크노믹스’ 중요성 부상 

AMD가 이러한 계산기를 선보인 배경에는 AI 활용 방식의 변화가 있다. 기존 AI 어시스턴트가 질문에 답하거나 문서를 요약하는 수준이었다면, 에이전틱 AI는 사용자의 컨텍스트를 이해해 여러 단계의 업무를 수행하고 다른 애플리케이션과 연계해 자율적으로 작업하는 방향으로 발전하고 있다. 

기업에서 이러한 AI 에이전트의 활용이 늘어나면 클라우드 추론 호출과 토큰 사용량도 함께 증가한다. AMD는 이에 따라 일부 AI 워크로드를 로컬 AI PC에서 실행하면 반복적인 클라우드 추론 비용을 줄이고 비용 예측 가능성을 높일 수 있다고 설명한다. 

계산기는 비용 외에도 로컬 AI 실행에 따른 데이터의 내부 보관, 예측 가능한 지연시간, 오프라인 환경에서의 활용 등의 요소를 함께 제시한다. 기업은 모든 AI 처리를 로컬이나 클라우드 중 하나로 일원화하기보다 워크로드 특성에 따라 로컬·클라우드·하이브리드 환경의 경제성을 비교할 수 있다.