AI 챗봇 전문기업 메이크봇(대표이사 김지웅)이 세계 최고 권위의 AI 학술대회 'SIGIR 2025'에서 LLM(대규모 언어모델)과 RAG(검색증강생성) 기술을 결합한 혁신적인 'HybridRAG' 프레임워크를 발표했다고 28일 밝혔다.
SIGIR은 AI와 정보검색 분야에서 세계 최고 권위를 자랑하는 학술대회로, 올해는 이탈리아 파도바에서 개최됐다. 김지웅 대표가 LLM·RAG 엔진 설계하여 연구를 주도하고 한양대학교와 공동으로 진행한 이번 연구는 메이크봇의 기술력이 글로벌 수준임을 입증하는 성과로 평가받고 있다.
- 기존 RAG 기술 한계 극복한 LLM 기반 혁신 기술 개발
메이크봇이 개발한 'HybridRAG'는 기존 RAG(Retrieval-Augmented Generation, 검색증강생성) 기술과 LLM(Large Language Model, 대규모 언어모델)이 가진 근본적인 문제점들을 해결하기 위해 개발된 혁신 기술이다.
기존 RAG 기술은 사용자가 질문할 때마다 매번 문서를 찾아보고 LLM이 답변을 만들어내는 방식이었다. 이 때문에 답변이 느리고, LLM 사용 비용이 많이 들며, 복잡한 문서(예: 재무표, 도표가 포함된 보고서 등)를 제대로 이해하지 못하는 문제가 있었다.
메이크봇의 HybridRAG 기술은 이런 RAG 시스템의 문제를 해결하기 위해 완전히 다른 방식을 택했다. 미리 문서들을 분석해서 예상되는 질문과 답변을 LLM으로 생성하여 저장해두고, 사용자가 질문하면 가장 적합한 답변을 빠르게 찾아주는 방식이다. 마치 시험을 앞두고 예상문제와 모범답안을 미리 준비해두는 것과 같은 원리다.
특히 표나 그래프 같은 복잡한 시각 자료도 LLM이 정확히 해석해서 자연스러운 문장으로 설명할 수 있어, 재무나 법무 등 전문 분야 문서 처리에서 기존 RAG 대비 큰 강점을 보인다.
- 컴퓨팅 자원 한계 극복한 '한국형 AI 혁신 모델' 제시
이번 HybridRAG 기술은 한국 AI 산업이 직면한 근본적 과제를 혁신적으로 해결한 사례로 주목받고 있다. 그간 한국의 AI 산업 생태계가 미국 등 선진국에 뒤처진다는 우려가 제기되어 왔는데, 이는 주로 GPU, 클라우드 등 막대한 컴퓨팅 자원이 필요하다는 인식 때문이었다.
메이크봇의 HybridRAG는 이런 고정관념을 뒤엎는 접근법을 보여준다. 실시간 LLM 호출을 최소화하고 효율적인 사전 생성 방식을 통해 적은 컴퓨팅 자원으로도 뛰어난 성능을 구현할 수 있음을 입증했다. 이는 자원의 한계를 창의적 효율성으로 극복하는 전형적인 '한국형 혁신 모델'이라 할 수 있다.
김지웅 대표는 "글로벌 빅테크 기업들과 컴퓨팅 파워로 경쟁하는 것보다, 실용적이고 효율적인 방식으로 더 나은 결과를 만들어내는 것이 우리의 강점"이라며 "HybridRAG가 바로 그런 철학의 결과물"이라고 설명했다.
- LLM 분야 지속적 연구개발로 기술 선도
메이크봇은 LLM 분야에서 수십여 개의 특허를 출원하며 지속적인 기술 개발과 학술 연구를 병행하고 있다. 이번 SIGIR 2025 발표는 메이크봇이 단순한 서비스 제공업체가 아닌, 원천 기술을 보유한 연구개발 중심 기업임을 보여주는 대표적 사례다.
특히 메이크봇은 실제 비즈니스 현장에서 축적한 데이터와 경험을 바탕으로 학술적 가치가 있는 연구를 진행하고 있어, 이론과 실무를 결합한 차별화된 연구 역량을 인정받고 있다. 이는 국내 AI 기업들이 글로벌 경쟁력을 확보할 수 있는 새로운 모델로 평가받고 있다.
- HybridRAG 성능 검증 결과, 기존 RAG 기술 대비 대폭 개선
메이크봇은 국제 표준 평가 방법을 통해 HybridRAG의 성능을 검증했다. 7개 분야의 실제 문서 1,261개와 8,498개의 질문-답변 쌍을 이용한 테스트에서 메이크봇의 HybridRAG 기술이 기존 RAG 방식보다 모든 면에서 우수한 성능을 보였다.
가장 중요한 정확도 지표에서는 기존 RAG 방식보다 26.6% 향상된 결과를 보였다. 답변의 완성도를 나타내는 지표들도 모두 개선됐으며, 응답 속도도 6.2% 빨라졌다.
특히 LLM 사용 비용 면에서도 혁신을 이뤘다. 13만 개 이상의 질문-답변을 생성하는 데 총 24.50달러(약 3만 5천원)만 소요돼, 질문 하나당 0.02센트(약 0.03원) 수준의 경제적인 비용으로 운영할 수 있음을 확인했다. 이는 기존 RAG 방식 대비 LLM 운영비를 크게 절약할 수 있다는 의미다.
- 메이크봇 LLM·RAG 기술력, 세계 무대서 인정받아
이번 세계 최고 AI 학술대회에서의 HybridRAG 발표는 메이크봇의 LLM·RAG 기술력이 글로벌 수준임을 보여주는 중요한 성과다. 메이크봇은 그동안 대한항공, CJ온스타일, 롯데칠성, 한국전력공사, 한국관광공사 등 국내 주요 기업들에 LLM 기반 AI 챗봇 서비스를 제공하며 축적한 경험을 바탕으로 RAG 기술 혁신을 이어왔다.
특히 공공기관 분야에서는 청주시, 부천시 등 수십여 개 지자체와 제주특별자치도 개발공사, 한국관광공사, 환경부 등에 LLM·RAG 기반 챗봇 서비스를 제공하며 24시간 민원 처리 자동화를 실현하고 있다. 시민들이 언제든지 궁금한 것을 물어보면 LLM이 즉시 답변을 생성해주는 시스템을 구축한 것이다.
의료 분야에서도 강남세브란스병원, 서울대학교 병원을 비롯해 국내 수백여 병의원에 LLM 기반 AI 챗봇을 공급하고 있다. 환자들이 챗봇을 통해 예약이나 진료 안내를 쉽고 빠르게 받을 수 있도록 도와 의료 서비스 편의성을 크게 높여왔고, 최근에는 단순한 예약이나 진료 안내를 넘어 RAG·LLM을 결합한 고도화된 챗봇과 병원 행정 업무 자동화, 개인화 업무 포털 등으로 서비스 영역을 확장하며 헬스케어 분야 전반의 디지털 혁신을 주도하고 있다.
- "실용적 LLM·RAG 솔루션으로 세계 시장 선도"
김지웅 메이크봇 대표는 "이번 세계 최고 AI 학술대회에서의 HybridRAG 발표는 메이크봇의 LLM·RAG 기술력이 세계적 수준임을 보여주는 중요한 성과"라며 "우리는 연구실에서만 통하는 LLM 기술이 아닌, 실제 현장에서 사람들에게 도움이 되는 실용적 RAG 솔루션 개발에 집중하고 있다"고 밝혔다.
이어 "이번에 발표한 HybridRAG 기술은 현재 한국의 실제 서비스에 적용돼 LLM 성능을 검증받고 있으며, 메이크봇의 수십여 개의 LLM 관련 특허와 함께 세계 시장에서도 기술적 우위를 확보해 나갈 것"이라고 강조했다.
한편 메이크봇은 정부의 '초거대 AI 생태계 구축' 사업 공급기업으로 선정되고, 한국마이크로소프트와 중소벤처기업부의 지원 프로그램에도 선정되는 등 LLM·RAG 기술력을 인정받으며 해외 진출을 가속화하고 있다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
