반도체 전문 온라인 매거진 - 올포칩

서비스나우(ServiceNow)가 나우 어시스트(Now Assist) 솔루션 제품군을 포함한 나우 플랫폼(Now Platform)의 확장을 발표했다. 나우 플랫폼 밴쿠버(Vancouver) 릴리스에는 나우 플랫폼 모든 워크플로우에 생성형 AI를 탑재한 IT 서비스 관리(ITSM), 고객 서비스 관리(CSM), HR 서비스 제공(HRSD) 및 크리에이터(Creator)를 위한 나우 어시스트가 포함된다. 더불어, 서비스나우는 최신 업데이트를 통해 버추얼 에이전트(챗봇)의 나우 어시스트(Now Assist in Virtual Agent), 플로우 생성 및 현장 서비스 관리(FSM)용 나우 어시스트도 제공하고 있다. 이를 통해 고객의 생산성을 가속화하고, 경험을 개선하며 민첩성을 향상시킬 수 있도록 지원한다. 나우 어시스트의 새로운 기능을 제공하기 위해 기업용으로 설계된 서비스나우 도메인 특화 대규모 언어모델(LLM)도 선보인다. 해당 LLM은 생산성과 데이터 프라이버시에 최적화됐다. 

CJ 데사이(CJ Desai) 서비스나우 최고 운영 책임자(COO)는 “조직들은 역동적이고 빠르게 움직이고 있는 지능의 시대를 헤쳐 나가기 위해 신뢰할 수 있는 파트너를 찾고 있다,”며, “이미 수천 고객사가 나우 플랫폼을 통해 기업 전반의 프로세스를 디지털화하고 간소화하고 있다. 밴쿠버 릴리스를 통해 서비스나우는 나우 플랫폼의 강력한 기능과 AI 기능을 결합해 비즈니스 모든 영역에 AI 기반 지능을 제공해 생산성을 가속화하고 더 나은 기업 경험을 구축하기 위해 노력을 기울이고 있다”고 말했다. 

모든 워크플로우에 엔터프라이즈급 생성형 AI 제공

골드만삭스에 따르면, 생성형 AI가 인간의 생산성을 향상시켜 향후 10년 내에 전세계 국내총생산(GDP)이 약 7조 달러 늘어날 것으로 예상된다1. 나우 플랫폼은 높은 수준의 디지털 신뢰 및 개인 정보 보호를 위해 설계된 엔터프라이즈급 AI로 모든 비즈니스 기능에 걸쳐 모든 고객의 성장을 촉진하고 비용을 절감할 수 있도록 생성형 AI를 운영한다. 나우 어시스트는 모든 프로세스 및 워크플로우에 통합돼 성능을 최적화하는 데 도움을 주며, 윤리적이고 책임 있는 개발 및 사용을 위한 서비스나우 제어 기준을 준수한다. 

나우 어시스트는 ▲케이스, 인시던트 및 에이전트 채팅 요약, ▲버추얼 에이전트, ▲검색 기능과 같은 생성형 AI 기능을 포함해 다양한 시나리오와 기능에 적용할 수 있다. 직원, 에이전트, 개발자 등 모든 사용자가 생성형 AI 기능을 활용할 수 있는 것이다. 해당 접근 방식을 통해 기업은 어떤 부서에도 생성형 AI를 도입할 수 있으며 비즈니스의 다른 부분까지 신속하고 쉽게 확장할 수 있다. 

나우 플랫폼에 기본으로 탑재된 AI

서비스나우의 생성형 AI 전략은 범용 LLM 또는 서비스나우가 개발한 모델을 사용해 고객에게 광범위하고 안전한 LLM을 지원한다. 범용LLM은 고객에게 유연성을 제공하며, 현재 마이크로소프트 애저 오픈AI 서비스 LLM(Microsoft Azure OpenAI Service LLM)과 오픈AI (OpenAI) API에 대한 액세스를 포함한다. 나우 플랫폼 속 도메인 특화 LLM은 서비스나우의 워크플로우, 사용 사례 및 프로세를 위해 특별히 설계되었으며, 서비스나우를 사용하는 상담원, 직원, 고객 및 IT 관리자에게 맞춤화돼 있다. 이를 통해 훌륭한 엔드유저 경험, 독보적으로 빠른 출시 시기, 높은 수준의 투명성 및 거버넌스를 제공한다. 

검색용 나우 어시스트는 엔비디아 니모(NeMo) 프레임워크를 기반으로 한 서비스나우의 특화 LLM에 기반해 구동되며 엔비디아 AI 엔터프라이즈 소프트웨어 플랫폼의 일부인 엔비디아 트라이톤(Triton) 추론 서버 소프트웨어를 사용해 제공된다. 해당 기능은 5월에 발표된 서비스나우와 엔비디아의 파트너십을 통해 구축된 기술로 시장에 처음 선보인다. 

AI 라이트하우스(AI Lighthouse) 프로그램

서비스나우는 최근 글로벌 디지털 서비스 선도 기업 텔레퍼포먼스(Teleperformance)가 AI 라이트하우스 프로그램에 합류한다고 발표했다. 텔레퍼포먼스는 CSM 및 ITSM의 프론트 및 백오피스 기능 전반에서 고객과 직원의 만족도를 높일 수 있는 새로운 업계 별 생성형 AI 사용 사례의 설계, 개발 및 구축을 위해 협력할 예정이다. 

AI 라이트하우스는 최초로 엔터프라이즈 생성형 AI 기능의 개발과 도입을 가속화하는 프로그램이다. 텔레퍼포먼스가 합류하며 올해 초 출시된 텔레퍼포먼스의 TP GenAI를 보완했다. 

텔레퍼포먼스는 CX 컨설팅, 생성형 AI, 엔지니어링 및 개발 분야에서 쌓은 풍부한 경험을 AI 라이트하우스에 제공한다. 이 회사의 우선 과제는 상담원과 고객의 상호 작용을 지원하는 새로운 생성형 AI 모델을 설계 및 개발하는 것이다. 텔레퍼포먼스는 사례 요약, 다음 단계 및 지식 경영 등 고객 관리에서 가장 중요한 고객 서비스 상담원의 문제 해결 업무를 AI 라이트하우스 프로그램 내에서 자동화할 예정이다.