반도체 전문 온라인 매거진 - 올포칩

생성 AI(Generative AI)는 창의적이고 독창적인 솔루션을 선보이며 놀라운 잠재력을 창출하고 있습니다. 생성 AI는 이미 텍스트, 코드 및 비주얼 분야에서 놀라운 결과물을 선보이고 있습니다. 예를 들어 오픈 AI(OpenAI)의 챗GPT(ChatGPT)와 스태빌리티 AI(StabilityAI)의 스테이블 디퓨전(Stable Diffusion)과 같은 AI의 발전은 다양한 주제에 대해 인간과 유사한 수준의 의사 소통을 가능하게 하고, 텍스트 입력으로 훌륭한 이미지를 생성합니다. 또한 생성 AI는 사람처럼 코딩도 할 수 있어 개발자가 자연어를 여러 프로그래밍 언어의 코드로 변환할 수 있게 도와줍니다. AI 기술을 통해 저작권 침해로부터 자유로운 음악을 제작하는 서비스인 뮤지코(Musico), 간단한 텍스트 입력으로 비디오를 생성하는 플랫폼인 엘라이(Elai), AI 콘텐츠 작성 서비스 재스퍼(Jasper)등과 같은 스타트업들이 AI 제작 콘텐츠의 상용화를 주도하고 있으며, 이러한 스타트업들은 산업 전반에 걸쳐 기존 관행을 대체할 생성 AI의 잠재력을 보여주고 있습니다. 

이러한 잠재력에도 불구하고, 스타트업과 다양한 기업의 개발자들은 여전히 생성 AI를 활용하는 데 상당한 장벽을 느낍니다.  모델 학습과 서빙을 최적으로 수행하고, 필요한 리소스와 환경을 구축하고, 오류나 성능 문제 처리와 같은 필수적인 작업을 개발자들이 해결해야 하는데, 여기에는 엄청난 시간과 비용이 들기 때문입니다. 프렌들리에이아이(FriendliAI)라는 이름의 스타트업이 바로 이러한 문제를 해결하기 위해 탄생했습니다. 프렌들리에이아이가 제공하는 서비스는 생성 AI 모델을 구축하고 서빙하는데 필요한 요구 사항을 빠르고 효율적으로 충족시켜 프로세스를 간소화합니다. 

프렌들리에이아이의 창업 배경 

프렌들리에이아이는 창업한지 2년밖에 지나지 않은 스타트업입니다. 이 회사의 창업자 전병곤 대표는 마이크로소프트에서 Principal Scientist로 일한 경험이 있으며, 현재 서울대학교 컴퓨터공학부 교수를 겸임하고 있습니다. 대규모 머신러닝 수행 기술 분야에서 오랜 경험을 쌓아온 전병곤 대표는 2020년 오픈AI의 GPT-3 출시를 지켜보며 확장성이 뛰어난 머신러닝 시스템에 대한 경험을 활용할 수 있는 기회가 있을 것이라 생각했습니다. 또 다양한 산업에서 생성 AI의 상용화가 활발해지면서 고도의 분산 AI 컴퓨팅 기술의 필요성도 명백해졌다고 느꼈습니다. 

그러한 판단 하에 전병곤 대표는 기업들이 생성 AI에 보다 쉽게 접근할 수 있도록 돕는 것을 목표로 2021년 회사를 창업했습니다. 프렌들리에이아이는 시간을 획기적으로 단축시켜 최소한의 비용으로 생성 AI 모델을 학습하고 서빙하는 솔루션인 페리플로우(PeriFlow)를 만들었습니다. 현재 프렌들리에이아이는 생성 AI 학습 및 서빙 서비스를 제공하는 공급기업으로는 독보적인 위치에 있으며, 국내외 여러 고객들이 페리플로우의 기술을 활용해 최첨단 생성 AI모델을 개발 및 제공하고 있습니다. 

빠르고, 편리하고, 비용효율적인 생성AI 모델 학습 및 서빙 

페리플로우는 생성 AI 학습에서 AI 모델 서빙까지의 ML 파이프라인을 처리하는 자동화 플랫폼입니다. 이는 학습 및 추론 프로세스를 원활하고 비용 효율적으로 실행할 수 있을 뿐만 아니라 결함 및 성능 문제를 해결하는 자동화 기술을 제공하며, 이를 통해 생성 AI 활용에 따르는 기술적 장벽 및 비용을 성공적으로 낮춰왔습니다. 페리플로우를 통해 기업, 특히 스타트업은 생성 AI를 클라우드에서 매우 효율적으로 실행할 수 있습니다. 특히 생성 AI 추론의 경우 기존 추론 방법보다 최대 수십배 더 빠릅니다.

▲프렌들리에이아이 전병곤 대표 

프렌들리에이아이는 마이크로소프트 애저가 스타트업의 성장과 성공을 어떻게 지원할 수 있는지 보여주는 대표적인 사례이기도 합니다. 일례로 사용자는 노트북에서 클라우드로 생성 AI모델 수행을 확장할 때 애저의 AI 인프라와 페리플로우 플랫폼을 통해 안정적이고 손쉽게 클라우드 서비스로 전환할 수 있습니다. 

또한 페리플로우는 생성 AI모델 수행을 확장할 때 사용자가 번거로움을 덜고 훨씬 간단한 방식으로 생성 AI 모델과 클라우드 리소스의 최적 조합을 찾을 수 있도록 도와줍니다. 이러한 기능을 통해 최소한의 비용으로 훨씬 더 많은 요청 처리가 가능해집니다. 

최소한의 비용으로 인간과 같은 커뮤니케이션 가능 

스캐터랩의 이루다 2.0은 오픈 도메인 대화형 AI 서비스로 기술 산업에 큰 파장을 일으켜 한국 구글 플레이스토어와 애플 앱스토어에서 모두 인기 순위 1위를 차지했습니다. 이루다 2.0을 특별하게 만드는 것은 대화의 맥락을 이해하고 문장을 생성하는 능력입니다. 이 챗봇은 미묘한 의미 차이를 인식하고 유행어나 농담에 자연스럽게 반응하며, "인종에 관계없이 모든 사람은 소중합니다."와 같은 윤리적 답변을 할 수 있습니다. 이 챗봇은 현재 스캐터랩의 혁신과 페리플로우 플랫폼의 기능을 통해 놀라운 속도와 최소 비용으로 17배 더 큰 모델을 서비스하며, 스캐터랩은 한국에서 오픈 도메인 대화형 AI 서비스의 새로운 표준을 세웠습니다. 

AI 플랫폼을 위한 완벽한 클라우드 환경 선택 

클라우드 컴퓨팅은 혁신을 주도하며 업계를 변화시키고 있습니다. 사용자는 애저 클라우드 상에서 생성 AI 혁신을 주도하는 페리플로우 플랫폼을 사용해 모델 스케일링에 필요한 성능, 연결성 및 유연성을 유지할 수 있습니다. 다음은 페리플로우가 신뢰도 높은 결과물을 제공하기 위해 활용한 일부 애저 서비스입니다.

• 애저 VM(Azure Virtual Machines): 애저는 머신러닝 학습 및 서빙을 위한 GPU 지원 가상 머신을 지원합니다. ND 시리즈 및 NC 시리즈 VM은 다중 GPU 서빙 및 학습을 위한 확장이 가능하며 NVLink 및 인피니밴드(Infiniband)를 사용하여 고속 상호 연결을 지원합니다.
• 애저 블롭 스토리지(Azure Blob Storage): 애저 블롭 스토리지를 사용하면 사용자 지정 데이터 셋을 업로드할 수 있습니다. 페리플로우는 데이터 셋을 읽고, 모델을 학습시키고, 학습 결과물들을 페리플로우 서빙에서 사용할 수 있도록 주기적으로 저장소에 체크포인트를 생성합니다.
• 애저 쿠버네티스 서비스(Azure Kubernetes Service): 애저 쿠버네티스 서비스는 페리플로우와 통합되어 탄력적 프로비저닝, 비용 관리 및 보안을 제공하는 서빙 엔진 배포를 가능하게 합니다.

▲애저를 통해 더욱 더 신뢰도 높은 결과물을 제공하는 페리플로우 

더욱 기대되는 미래 

프렌들리에이아이의 목표는 최첨단 생성 AI 모델 서빙과 학습 기술을 발전시키는 것입니다. 프렌들리에이아이의 독보적인 기술은 회사의 성공뿐만 아니라 생성 AI 모델을 학습시키고 서빙하는 분야를 크게 발전시킬 것입니다. 이 과정 전반에 걸쳐 프렌들리에이아이는 애저와 함께 사용자들이 생성 AI의 원활한 워크플로를 경험할 수 있도록 적극 지원할 예정입니다. 

생성 AI는 작업의 생산성을 높이고, 더 창의적인 결과물을 만들고, 더 스마트한 서비스를 구축할 수 있도록 함으로써 세상을 변화시키고 있습니다. 2년 전 프렌들리에이아이 창업 시점만 하더라도 사람들은 GPT-3, 더 넓게는 생성 AI의 미래와 그 시장에 대해 의문을 제기했습니다. 그럼에도 불구하고 프렌들리에이아이는 기업들이 생성 AI 도입을 가속화하도록 지원함으로써 세상에 영향을 미치고자 했습니다. 초기 성공의 열쇠는 생성 AI를 위한 최고의 소프트웨어 개발에 집중하고, 작게 시작하고, 초기 생성 AI 고객과 협력하여 회사의 서비스를 지속적으로 개선하는 것이었습니다. 이러한 고객 중심적 관점은 프렌들리에이아이가 시장 환경에 맞추어 기민하게 움직이는데 매우 큰 역할을 했고, 앞으로도 시장과 세상에 긍정적인 영향을 만들어 나갈 것입니다.