반도체 전문 온라인 매거진 - 올포칩

엔비디아(www.nvidia.co.kr )가 엔비디아(NVIDIA) 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 지난 3일 월요일 샌프란시스코에서 열린 스노우플레이크 데이터 클라우드 서밋(Snowflake Data Cloud Summit)에 참여했다고 밝혔다. 젠슨 황은 스노우플레이크 CEO 슈리다 라마스워미(Sridhar Ramaswamy)와의 노변담화에 화상으로 참여했다. 

그는 수천 명의 관중에게 “기업은 가장 중요한 모든 프로세스를 데이터 플라이휠(flywheel)에 가져와 이를 회사의 AI로 전환해 더욱 발전시켜야 한다”고 말하며, AI는 모든 기업이 프로세스를 데이터 플라이휠로 전환할 수 있는 기회를 제공한다고 전했다. 

두 임원은 엔비디아 AI와 스노우플레이크 AI 데이터 클라우드의 결합이 어떻게 기업의 AI를 단순화하고 가속화할 수 있는지에 대해 설명했다. 

대만에서 컴퓨텍스(COMPUTEX) 개막 기조연설을 한 다음 날, 젠슨 황은 "이 행렬에 최대한 빨리 올라타서 비즈니스를 혁신하거나 새로운 비즈니스에 진출할 수 있는 기회를 놓치지 말아야 한다"고 말했다. 

스노우플레이크 사용자를 위한 엔비디아 AI 엔터프라이즈

기업들은 엔비디아 AI 엔터프라이즈((AI Enterprise) 소프트웨어 플랫폼의 일부인 엔비디아 NIM 추론 마이크로서비스를 사용해 엔터프라이즈용 거대 언어 모델(large language model, LLM)인 스노우플레이크 아크틱(Arctic)을 단 몇 초 만에 배포할 수 있게 된다. 

아크틱은 엔비디아 H100 텐서 코어(H100 Tensor Core) GPU에서 훈련됐다. 또한, 엔비디아 API 카탈로그에서 사용 가능하며, 생성형 AI 추론을 가속화하는 소프트웨어인 엔비디아 텐서RT-LLM에서 완벽하게 지원된다. 

아울러 양사는 엔비디아 네모 리트리버(NeMo Retriever)와 스노우플레이크 코텍스 AI(Cortex AI)를 통합할 계획이다. 기업들은 이를 통해 AI 기반 애플리케이션을 정보 소스에 연결하고, 검색 증강 생성(retrieval-augmented generation, RAG)으로 매우 정확한 결과를 얻을 수 있다. 

슈리다 라마스워미는 엔비디아 네모 프레임워크와 스노우파크 컨테이너 서비스(Snowpark Container Services)로 개발된 생성형 AI 애플리케이션의 사례를 소개했다. 이는 수천 명의 스노우플레이크 고객들이 사용할 수 있도록 스노우플레이크 마켓플레이스(Marketplace)에서 제공될 예정이다. 

슈리다 라마스워미는 “업계를 선도하는 엔비디아의 가속 컴퓨팅은 우리 고객과 고객을 위한 최첨단 아크틱 모델을 개발한 당사 연구팀의 판도를 바꾸고 있다”고 말했다.