반도체 전문 온라인 매거진 - 올포칩

AI를 도입한 실시간 클라우드 서비스 시대가 도래했다. SK텔레콤은 자사의 AI 기반 서비스를 확장하기 위해 자일링스(Xilinx) 알비오(Alveo) 데이터센터 가속기 카드를 기반으로 한 새로운 AI 추론 가속기(AIX: AI Inference Accelerator)를 개발했다. SK텔레콤은 지난해 AI 스피커 NUGU의 음성인식 서비스에 자일링스 FPGA 기반의 AIX를 상용화한데 이어, 이번에는 영상인식 분야 AI 서비스를 위해 데이터센터에 자일링스 알비오 U250 카드를 구축하고 무단침입 탐지 및 도난 감지 서비스를 강화했다.

SK텔레콤의 이강원 클라우드랩스장은 "AI는 특정 마켓에 국한되지 않고 모든 분야의 광범위한 애플리케이션에 적용이 가능한 유비쿼터스 기술이다. SK텔레콤은 고품질, 고성능 클라우드 기반 AI 서비스를 확장하기 위해 3년 전부터 AI 가속기 개발을 추진해 왔다."고 말하고, "음성인식, 자연어 처리, 영상 분석에 이르기까지 신경망과 AI를 결합한 다양한 서비스가 안정적으로 지원될 수 있도록 기반 환경을 구축하고, AIX 성능 향상에 주력하고 있으며, 이를 기반으로 AI 서비스의 적용 분야를 넓혀가고 있다."고 밝혔다.

실시간 AI 기반 보안 서비스를 제공하는 SK텔레콤의 티뷰(T view)는 수천 대의 카메라에서 전송되는 대규모의 데이터를 처리하기 위해 충분한 데이터 처리량과 정확도를 제공하는 강력한 AI 가속기가 필요하다. 자일링스 알비오 U250 카드에 구현된 새로운 SK텔레콤의 AIX는 감지 지연시간이 짧고, 업계 선도 GPU 대비 탁월한 연산속도를 제공하며, 비용 측면에서도 더욱 효과적인 것으로 입증되었다. 알비오 카드를 이용해 처리량과 정확도가 향상됨에 따라 더 많은 고객들이 실시간 AI 기반 보안 서비스에 액세스하고, 보안 위협에 대해 보다 안정적인 보호를 받을 수 있게 되었다.

<GPU 대비 탁월한 성능을 제공하는 FPGA 기반 AIX> 

박진효 SK텔레콤 ICT기술센터장은 “SK텔레콤은 미디어, 보안, 전자상거래 등 비통신 영역의 사업에서도 AI 서비스를 확대하고 있다. 5G와 AI가 접목된 새로운 융합 서비스 개발에 주력하고 있으며, AIX는 고성능 클라우드 기반 AI 서비스를 위한 우리의 노력 중 하나이다.”고 밝혔다.

자일링스 데이터센터 제품 마케팅 매니저인 아담 스크라바(Adam Scraba)는 “컴퓨팅 환경은 CPU 중심 시스템에서 각각의 작업 부하에 따라 최적화할 수 있는 분산형 컴퓨팅으로 전환되고 있다. 알비오 U250은 하드웨어 및 소프트웨어 모두 적응형으로 유연하게 프로그램이 가능하기 때문에 하나의 플랫폼으로 컴퓨팅 가속, 네트워킹, 스토리지 등 다양한 애플리케이션에 적용이 가능하다.”고 설명했다.

자일링스의 알비오 가속기 카드는 데이터센터 AI 작업부하에서 요구되는 성능 및 유연성을 충족시킬 수 있도록 설계되었으며, GPU 대비 AI 기반 음성변환의 경우 10배 더 높은 성능1과 비디오 분석 파이프라인의 경우 3배 더 뛰어난 처리량2을 제공한다. 자일링스의 16nm 울트라스케일+(UltraScale+) 아키텍처를 기반으로 구현된 알비오 가속기는 변화하는 알고리즘 및 가속 요건에 적응이 가능하며, 하드웨어를 변경하지 않고도 다양한 작업부하에 따라 성능을 최적화하고, 총 소유비용을 절감할 수 있는 도메인 특화 아키텍처를 제공한다.