인공지능(AI) 경량화 전문 스타트업 스퀴즈비츠가 서비스형 소프트웨어(SaaS)형 AI 경량화 툴킷 ‘아울라이트(OwLite)’를 출시했다고 21일 밝혔다.
아울라이트는 SaaS형태로 고객사가 자사의 제품에 스퀴즈비츠의 경량화 기술을 쉽고 빠르게 적용할 수 있다. 아울라이트는 AI 추론 속도를 평균 3.6배, 메모리 사용량을 평균 4배 개선한다. 스퀴즈비츠는 이를 통해 AI 서비스 비용을 효율적으로 절감할 수 있다고 설명했다.
아울라이트는 AI 모델 개발 단계에서부터 경량화 효과를 평가하고 분석할 수 있는 기능을 제공한다. 모델 경량화 뿐만 아니라 엔진 빌드, 성능 확인, 비교 및 분석까지 전체적인 시스템을 지원한다. 전문지식이 부족한 이용자도 쉽게 여러 경량화 기술을 시험하고 장단점을 비교 분석해 볼 수 있도록 추천 기능도 지원한다.
2022년 3월 설립된 스퀴즈비츠는 AI 기반 서비스의 효율적 운영을 돕는 경량화 기술을 개발하는 스타트업이다. 포스텍 대학원 딥러닝 가속기 하드웨어 연구팀을 주축으로 구성됐다. 공동창업진은 지난 7년 간 각종 머신러닝 분야 세계 학회에서 경량화 관련 논문을 70편 이상 발표해 왔다.
스퀴즈비츠는 AI 모델의 성능을 유지하면서 32비트 데이터를 4비트 이하로 양자화하는 기술을 보유했다. 양자화된 모델을 기존 하드웨어에서도 효율적으로 연산할 수 있는 소프트웨어 엔진도 보유했다. 최근 온디바이스AI의 태동으로 경량화 기술에 시선이 쏠리는 상황에서 스퀴즈비츠에 대한 관심도 커지고 있다. 스퀴즈비츠는 최근 주요 빅테크에서 투자를 유치하며 뜨거운 관심을 받고 있다. 포스텍홀딩스와 네이버D2SF로부터 초기(시드) 투자를 받은데 이어 올 1월 카카오(035720)벤처스와 삼성넥스트, 포스코기술투자, 포스텍홀딩스에서 25억 원 규모의 프리 시리즈A 투자를 유치했다.
김형준 스퀴즈비츠 대표는 “산업혁명이나 인터넷 혁명이 그랬듯이 새로운 기술도 비용이 저렴해져야만 사회 전반에 걸쳐 더욱 빠르게 확산될 수 있다”며 “아울라이트를 활용해, 더욱 많은 AI 서비스 기업들이 AI 운영 비용을 절감하여 지속 가능한AI 서비스를 제공할 수 있을 것”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
kim@sedaily.com
