온라인 혐오 해결 위해 AI 챗봇 윤리성 검증

IBS 데이터 사이언스 그룹, ‘심심이’와 업무협약(MOU) 체결

기초과학연구원 데이터 사이언스 그룹은 심심이와 AI 챗봇의 윤리 검증을 위해 업무협약을 체결했다. 사진 왼쪽부터 기초과학연구원 진효진 선임연구원, 차미영 CI, 신민기 연수학생, 송현호 연수학생, 심심이 주식회사 최정회 대표. 사진제공=IBS

기초과학연구원(IBS)이 온라인 혐오 문제 해결을 위해 인공지능(AI) 챗봇의 윤리성 검증에 나선다.

IBS 수리 및 계산과학 연구단 데이터 사이언스 그룹은 AI 챗봇 ‘심심이’를 운영하는 ‘심심이’와 업무협약(MOU)을 체결했다고 26일 밝혔다.

양 기관은 최근 사회문제로 대두된 온라인 속 혐오 표현을 해결하고자 손을 맞잡았다. 이번 업무협약을 통해 인공지능 사람이 상호작용하는 패턴을 분석함으로써, 온라인 혐오를 해결하기 위한 과학자와 기업간 협력을 약속했다.



심심이는 과학기술정보통신부 주관 ‘AI 학습용 데이터 구축사업’에 참여해 윤리성 검증을 돕고 있다. 특히 대화 시나리오나 서술형 글 등 텍스트 관련 윤리성 검증 및 비도덕적 텍스트 구조 규명에 주력 중이다.

IBS 데이터 사이언스 그룹은 이 과정에서 기계학습 및 AI를 기반으로 온라인 데이터 속 혐오 표현을 탐지하는 분석 도구를 개발해나갈 계획이다.

최정회 심심이 대표는 “AI 챗봇은 세계적으로 윤리성 문제에 부딪혀 왔다”며 “IBS의 우수한 데이터과학자들과 함께 이의 과학적 해결 방안을 도출, AI 챗봇의 지속가능한 발전을 기대한다”고 말했다.

데이터 사이언스 그룹을 이끌고 있는 차미영 CI(Chief Investigator?KAIST 전산학부 교수)는 “심심이는 약 1억4,000만쌍의 대화 시나리오 데이터를 기반으로 만들어진 생동감 있는 대화 플랫폼”이라며 “심심이는 온라인 데이터 속 혐오 표현을 탐지하는 인공지능을 개발하기 위한 최적의 도구가 될 것”이라고 말했다.