유니콘 넘보는 망고부스트, AIDC 인프라 사업 도전장

서울 강남 데이터센터 임차 AI 서버 랙 10대 설치 예정 GPU·DPU·최적화 SW 결합 “데이터 병목문제 해결” 포부 서울 관악구 망고부스트 사무실에 시범 설치된 데이터센터 서버 랙. 사진 제공=망고부스트 유니콘 등극을 앞두고 있는 스타트업 망고부스트가 인공지능(AI) 데이터센터 인프라 사업에 도전한다. 데이터처리가속기(DPU)를 중심으로 AI 업계의 데이터 병목 문제를 해결하겠다는 포부를 내걸었다. 29일 관련 업계에 따르면 망고부스트는 최근 서울 강남구의 한 상면 데이터센터 일부를 빌려 쓰는 임대차 계약을 맺었다. 망고부스트는 이 데이터센터에 AMD 최신 그래픽처리장치(GPU) MI355X를 탑재한 42U 규격 랙 10대를 설치할 예정이다. 42U 랙은 높이 2m, 깊이 1m 크기의 대형 랙이다. 망고부스트가 설치하는 랙에는 AMD의 GPU뿐만 아니라 망고부스트의 DPU인 ‘부스트X’가 함께 설치된다. 이 서버를 사용하는 기업은 망고부스트의 데이터 처리 최적화 소프트웨어인 ‘LLM 부스트’도 이용할 수 있다. GPU, DPU, 최적화 소프트웨어를 결합한 망고부스트의 패키지는 AI 서비스 개발 기업에 제공된다. 현재 대기업부터 스타트업까지 다양한 기업들이 망고부스트와 서버 사용을 논의 중이다. 이 기업들은 특히 망고부스트의 패키지를 활용해 대규모언어모델(LLM)을 구동했을 때의 연산 효율에 관심을 보이고 있다. 망고부스트는 5월 중 설비 구축을 완료하고 본격적인 영업을 개시할 예정이다. 망고부스트의 DPU ‘부스트X 프로’. 사진 제공=망고부스트 망고부스트는 2022년 설립 후 지금까지 DPU 제품을 판매하는 사업에 주력했다. DPU란 시스템 반도체 일종으로 중앙처리장치(CPU), GPU, 솔리드스테이트드라이브(SSD) 등의 장비 작동을 최적화해 데이터 병목 현상을 해결하는 데 쓰이는 가속기다. 글로벌 GPU 2위 기업인 AMD도 망고부스트의 DPU에 관심을 보이고 있으며 양사 간 AI 서버 효율화 관련 기술실증(PoC)을 진행하기도 했다. 이번 강남 데이터센터를 시작으로 망고부스트는 데이터센터 인프라로 사업 영역을 확장할 방침이다. 현재 AI 업계는 데이터 병목 현상으로 골머리를 앓고 있다. 이러한 업계의 문제 해결 수요를 성장 지렛대로 삼겠다는 게 망고부스트의 복안이다. 또한 DPU 단일 제품 판매에 안주하다가는 AI 서버 시장에서 사업 주도권을 잡기 힘들다는 계산도 깔려 있다. 김장우 망고부스트 대표는 “망고부스트의 목표는 AI 데이터센터의 근본적인 효율을 바꾸는 표준 컴퓨터 시스템을 정립하는 것”이라며 “강남 데이터센터에 들어갈 서버는 망고부스트의 통합 솔루션이 GPU와 스토리지의 잠재력을 얼마나 극대화할 수 있는지 증명하는 첫 번째 이정표가 될 것”이라고 말했다.