엔비디아, 최첨단 대화형 AI 서비스 구축 돕는 자비스(Jarvis) 발표
2020년 05월 18일
트위터로 보내기페이스북으로 보내기구글플러스로 보내기

c0071115a649f393b0c35f302550ea85_1589750312_8306.PNG


엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 GPU 가속 애플리케이션 프레임워크인 엔비디아 자비스(NVIDIAJarvis)를 발표했다. 자비스는 기업들이 영상 및 음성 데이터를 활용해자사 제품과 고객, 그리고 산업에 최적화된 최첨단 대화형 인공지능(AI) 서비스를 구축하도록 돕는 것이 특징이다. 

 

재택근무, 원격진료, 원격수업이 늘어나면서 고객지원부터실시간 기록, 화상통화에 이르는 맞춤형 언어 기반 AI 서비스에 대한수요가 급증하고 있으며, 이를 통해 사람들의 생산성과 연결성이 유지되고 있다. 

 

자비스 기반의 대화형 AI 제품 및 서비스를 최초로 활용하고 있는 기업들로는AI 기반의 콜센터 솔루션을 제공하는 보카(Voca), 금융 분야 AI기술 기업 켄쇼(Kensho), 일정 관리를 위한 가상 어시스턴트 스퀘어(Square)가 있다. 

 

젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “대화형 AI는 애플리케이션이 뉘앙스와 상황을 이해하고커뮤니케이션하는 능력을 갖기 때문에 많은 산업에 걸쳐 미래의 중심이 될 것이다. 엔비디아 자비스는 의료 및금융 서비스, 교육 및 소매 분야 기업들이 빠른 속도와 정확성으로 고객 지원을 자동화하도록 도울 것”이라고 설명했다. 

 

자비스를 기반으로 구축된 애플리케이션은 AI 컴퓨팅을 위한 새로운 엔비디아 A100 텐서 코어(Tensor Core) GPU의 혁신 기술뿐 아니라, 추론을 위한 엔비디아 텐서RT(TensorRT)의 최신 최적화 기능을 활용할 수 있다. 이를 통해, 실시간 상호작용에 필요한 수준인 300밀리초 임계값 보다 더 빠르고 강력한 비전 및 음성 모델을사용해 전체 멀티모달(multimodal) 애플리케이션을 실행할 수 있다.

 

자비스는 개발자가 각 기업 및 고객 고유의 용어를 이해할 수 있는 엔드-투-엔드실시간 대화형 AI 애플리케이션을 쉽게 생성, 배치 및 실행할 수 있도록하는 GPU 가속 소프트웨어 스택과 툴을 제공한다.

 

시장조사기관 IDC의 AI 소프트웨어 플랫폼 리서치 티렉터데이비드 슈멜(David Schubmehl)은 “모든 규모의 조직들이잘 훈련된 가상 비서와 챗봇을 사용하여 고객 서비스를 제공하고 비즈니스를 성장시키는 것의 가치를 깨닫기 시작하면서, 대화형 AI 시장의 급속한 성장세가 지속되고 있다. IDC는 자동화된 고객 서비스 에이전트 및 디지털 어시스턴트 같은 대화형 AI 활용사례와 관련한전세계 지출이 2019년 58억 달러에서 2023년 138억 달러로 성장해 연평균 24%의 복합성장률을기록할 것으로 보고 있다”고 말했다. 

 

개인화된 대화형 경험을 제공하기 위해서는 기업들이 자사 제품 및 고객 요구사항에특정된 데이터에 대해 언어 기반 애플리케이션을 훈련시켜야 한다. 하지만, 서비스를 처음부터 구축하려면 AI 관련 전문지식이 풍부해야 할 뿐 아니라, 모델을 훈련시키기 위한 대량의 데이터와 컴퓨팅 리소스는물론, 새로운 데이터로 모델을 정기적으로 업데이트하는 소프트웨어가 필요하다.

 

자비스는 대화형 AI를 위한 엔드-투-엔드 딥러닝 파이프라인을 제공하여 이러한 과제를 해결한다. 또한, 자연어 이해를 위해 엔비디아의 메가트론 버트(Megatron BERT)와 같은 최첨단 딥러닝모델을 포함한다. 기업들은 엔비디아 네모(NVIDIANeMo)를 사용해 데이터에서이러한 모델을 미세 조정하고, 텐서RT를 통해 추론을 최적화하며, 엔비디아의GPU 최적화 소프트웨어 카탈로그인 NGC에서 이용할 수 있는 헬름(Helm) 차트를 활용해 클라우드 및 엣지(edge) 환경에 배치할수 있다.

그래픽 / 영상
많이 본 뉴스