대규모 언어모델(LLM) 기술의 비약적 발전과 함께 공공기관을 중심으로 생성형AI 기반 챗봇 도입 열풍이 다시 불어오고 있다. 과거 단순한 키워드 매칭과 규칙 기반 응답에 머물렀던 기존 챗봇 서비스가 ChatGPT, Claude 등 생성형 AI의 등장으로 완전히 새로운 차원으로 진화하면서, 복잡한 민원 상담과 개인 맞춤형 행정 서비스까지 자연스럽게 처리할 수 있는 수준에 도달했기 때문이다.
이러한 생성형AI와 LLM 기술의 혁신은 특히 공공 부문 디지털 전환에서 주목받고 있다. 과거 전통적인 챗봇 도입에 주저하던 많은 공공기관들이 이번에는 생성형AI 챗봇의 혁신적 성능에 기대를 품고 내년도 예산 편성 과정에서 LLM 기반 AI 챗봇 관련 예산을 적극 반영하고 있다.
- 메이크봇, 다양한 공공기관 생성형AI 챗봇 구축으로 전문성 입증
AI챗봇 전문 기업 메이크봇은 청주시, 부천시, 정읍시, 해남군 등 다양한 지자체와 제주특별자치도 개발공사, 한국관광공사, 환경부 등 주요 공공기관의 생성형AI 기반 챗봇 개발 사업을 성공적으로 완료한 바 있다.
특히 약 90만 명의 인구수를 자랑하는 청주시를 비롯하여 공주시, 파주시, 창원시 등은 물론, 양구, 영광, 예천, 화천 등 각 군에 이르기까지 민원 챗봇 및 각 지역 특색에 따른 관광·환경·교육·부동산 등 전반적인 민원 업무의 AI 자동화를 성공적으로 구축해왔다.
최근에는 부천시청이 메이크봇의 LLM 기반 챗봇 서비스를 오픈하며 △공공행정·민원 △도시·문화체육 △복지·보건환경 △세무·경제·교통 등으로 각 카테고리별 세분화된 정보를 제공하고 있다. 이에 시민들이 자주 찾는 단순, 반복 민원에 대한 생성형AI 자동 응대 시스템이 구축되어 24시간 빠르고 정확한 답변을 제공함으로써 시민과 시청 담당자의 반복업무 감소로 효과적인 시너지를 이루어 낸 바 있다.
- 최초의 웹-카카오 완벽 연동 멀티채널 생성형AI 챗봇 UI 출시
메이크봇은 최근 생성형AI LLM 챗봇을 웹과 카카오 두 개의 플랫폼에 완벽하게 UI로 연동한 최초의 멀티채널 솔루션을 선보이며 업계 주목을 받고 있다. 기존에는 웹 챗봇과 카카오톡 챗봇이 별도로 운영되어 일관성 있는 AI 서비스 제공에 한계가 있었지만, 메이크봇의 새로운 LLM 기반 솔루션은 두 플랫폼에서 동일한 생성형AI 엔진과 데이터베이스를 공유하면서도 각 플랫폼의 특성에 최적화된 UI/UX를 제공한다.
이는 특히 공공기관 챗봇 도입에게 중요한 의미를 갖는다. 젊은 세대는 웹 기반 생성형AI 챗봇을, 중장년층은 익숙한 카카오톡을 통해 동일한 수준의 LLM 기반 민원 서비스를 받을 수 있기 때문이다. 실제로 카카오톡의 국내 연령별 사용률이 90% 이상으로 전 연령대에서 고르게 사용되고 있으며, 월간 활성 사용자 수가 4,600만 명에 달한다는 점을 고려할 때 이러한 멀티채널 생성형AI 전략은 필수적이다.
- 예산 규모별 단계적 접근으로 LLM 기반 챗봇 도입 현실화
하지만 이러한 생성형AI 시장 열기 속에서도 공공기관들이 직면한 현실적 과제는 소규모 언어모델(sLLM) 구축에 필요한 높은 초기 인프라 비용이다. 기관마다 보유한 정보의 형태와 보안 요구사항이 달라 획일적인 생성형AI 솔루션으로는 최적의 성과를 기대하기 어렵다는 점도 주요 고려사항이다.
이러한 현실을 고려하여 메이크봇은 공공기관의 다양한 예산 규모와 기술 환경을 고려한 LLM 기반 챗봇의 단계적 접근 방식을 제시하고 있다. 초기에는 상용 생성형AI LLM API를 연동한 서비스로 합리적인 비용으로 시작하고, 이후 기관의 성장과 요구사항에 따라 하이브리드 구성을 거쳐 완전 자체 sLLM 구축까지 단계적으로 발전시킬 수 있는 AI 전환 로드맵을 제공한다.
또한 정형 데이터는 규칙 기반 NLP로 신속하게 처리하고, 비정형 데이터에는 생성형AI LLM의 강력한 의미 분석 능력을 활용하는 등 유연성을 제공한다는 점은 오랜 기간 공공과 민간을 아우르는 다양한 고객사와 이를 뒷받침할 수 있는 AI 챗봇 기술력을 확보하고 있는 메이크봇만의 차별점이다.
- 글로벌 기술력으로 차세대 생성형AI 공공서비스 혁신 주도
메이크봇은 최근 세계 최고 권위의 정보검색 학술대회 'SIGIR 2025'에서 자체 개발한 HybridRAG 기술을 발표하며 생성형AI 기술력을 글로벌 수준에서 입증하기도 했다. 이는 기존 RAG(검색증강생성) 기술의 한계를 극복한 혁신적인 LLM 기술로, 공공기관의 정확하고 신뢰할 수 있는 AI 민원 정보 제공에 핵심적인 역할을 할 것으로 기대된다.
메이크봇은 한국전력공사, 한국관광공사, 한국공항공사, 한국부동산원, 서울주택도시공사 등 주요 공공기관의 생성형AI 챗봇을 성공적으로 구축하며 이러한 LLM 기반 기술력의 실효성을 입증해왔다.
메이크봇 김지웅 대표는 "생성형AI와 ChatGPT의 영향으로 내년 LLM 기반 챗봇에 대한 관심은 더욱 뜨거울 것이 자명하다"며 "전문 기업과 함께 업무의 작은 단위부터 시작해 장기적인 안목에서 생성형AI의 업무 도입을 확산시켜나간다면, 공공기관의 업무 및 민원 효율이 획기적으로 개선될 것"이라고 조언했다.
이어 "최초로 웹과 카카오 플랫폼을 완벽하게 연동한 생성형AI LLM 챗봇 UI를 통해 공공기관은 모든 세대의 시민들에게 일관되고 편리한 AI 서비스를 제공할 수 있게 되었다"며 "공공기관의 생성형AI 챗봇 도입이 성공하려면 최신 LLM 기술력과 함께 기관별 맞춤 구성이 가능한 유연성, 그리고 사용자 접근성까지 종합적으로 고려해야 한다"고 강조했다.
2025년에 이어 2026년이 공공 부문 생성형AI 챗봇 도입의 전환점이 될 것이라는 전망이 지배적인 가운데, 각 기관이 어떤 LLM 기술 파트너를 선택하느냐가 성공적인 AI 디지털 전환의 핵심 요소가 될 것으로 보인다.
한편, 메이크봇은 공공기관뿐만 아니라 대한항공, 카카오T, CJ온스타일, 강남세브란스병원 등 금융·유통·항공·교육·헬스케어 등 다양한 산업에 특화된 생성형AI 기반 카카오톡 챗봇을 제공 및 구축하고 있으며, 다양한 기관의 니즈에 따라 LLM 기반 맞춤 챗봇 서비스를 제공하고 있다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
