반도체 전문 온라인 매거진 - 올포칩

델 테크놀로지스(Dell Technologies)가 레드햇과 협력해 AI 인프라 구축을 간소화하는 턴키 솔루션 ‘레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼(Dell APEX Cloud Platform for Red Hat OpenShift AI)’을 출시했다. 

‘레드햇 오픈시프트를 위한 델 에이펙스 클라우드 플랫폼’은 레드햇 오픈시프트를 위해 설계된 업계 최초의 완전 통합형 애플리케이션 딜리버리 플랫폼으로서, 기업이나 공공기관들이 온프레미스에서 가상 머신과 함께, 컨테이너를 구축하고 관리, 운영할 수 있도록 돕는다. 델은 이번에 플랫폼에 ‘레드햇 오픈시프트 컨테이너 플랫폼(Red Hat OpenShift Container Platform)’에 대한 컨트롤 플레인 호스팅 지원을 추가했다. 관리 비용을 줄이고, 클러스터 구축 시간을 단축하며, 워크로드 관리 부담을 줄여 애플리케이션에 온전히 집중할 수 있도록 돕기 위함이다. 

레드햇 오픈시프트 AI를 위한 델 에이펙스 클라우드 플랫폼은 기업과 기관에서 더 많은 GPU를 활용해 AI 결과물의 범위를 넓힐 수 있도록 설계됐다. 고유한 요구사항에 부합하는 맞춤형 인프라를 구성할 수 있는 유연성을 제공하며, 특히 가장 까다로운 AI 애플리케이션에도 적합한 엔비디아(NVIDIA) L40S GPU를 탑재했다. 

규모에 관계없이 설계에 따라 다양한 스토리지 요구 사항에도 대응할 수 있도록 델 파워플렉스(Dell PowerFlex)와 델 오브젝트스케일(Dell ObjectScale) 스토리지를 모두 지원한다. 오브젝트 스토리지는 확장 가능하고 비용 효율적인 데이터 관리를 지원해 대규모 언어 모델과 대규모 데이터 세트를 수용하는 데 이상적이다. 

델은 에이펙스 클라우드 플랫폼에서 제공할 수 있는 레드햇 오픈시프트 AI의 잠재력을 실현하기 위해 검증 설계의 디지털 어시스턴트를 업데이트 함으로써 대규모 언어 모델(LLM)과 검색 증강 생성(RAG) 프레임워크를 70억개의 매개변수 모델을 130억개로 늘렸다. 기업 및 각 기관에서는 LLM만으로 조직에 대한 도메인별 최신 정보를 확보하기 어려우므로, RAG를 사용해 자체 보유한 데이터로 LLM을 보강하여 최신 정보를 빠르게 학습시킬 수 있다. 델은 다양한 오픈소스 오퍼레이터를 활용하여 손쉽게 복제하고 각각의 비즈니스의 요구 사항에 맞게 디자인을 조정할 수 있도록 지원한다. 레드햇 오픈시프트 AI는 특정 퍼블릭 클라우드 전용 툴에 종속되거나, 인프라에 대한 걱정 없이 모델을 구축할 수 있는 협업 기반 오픈소스 도구 세트와 플랫폼을 제공하여 규범적인 AI/ML 제품들에 대한 대안을 제공한다. 

델은 또한 AI를 사용하여 자동화된 음성 인식(ASR) 및 텍스트 음성 변환(TTS) 기능을 구현하는 솔루션을 선보인다. 혁신적인 설계의 이 오퍼링은 GPU 가속 음성 AI 애플리케이션을 구축하는 마이크로서비스인 ‘엔비디아 리바(NVIDIA Riva)’를 통해 델 에이펙스 클라우드 플랫폼에서 레드햇 오픈시프트 AI의 성능을 확장한다. 이를 통해 자체 자연어 처리(NLP: Natural Language Processing) 솔루션의 배포를 간소화할 수 있다. 

김경진 한국 델 테크놀로지스의 총괄 사장은 “AI 속도 경쟁의 승패를 좌우하는 것은 복잡성을 어떻게 극복하는지에 따라 달려있다”고 설명하며 “델은 레드햇과의 긴밀한 협력으로 고객이 간소하고 검증된 방법으로 온프레미스에서 이상적인 AI 인프라를 마련하여 가치 창출 시간을 앞당길 수 있도록 노력하고 있다”고 말했다.