전종목 시세보기

서울경제

HOME  >  산업  >  바이오&ICT

"뉴스 악성댓글 거른다"...네이버 'AI 클린봇' 적용

욕설 포함땐 자동으로 숨김 기능

'뉴스 악성댓글 거른다'...네이버 'AI 클린봇' 적용
네이버의 AI 댓글 필터링 ‘클린봇’/사진제공=네이버

네이버가 인공지능(AI) 기술을 활용해 욕설 등이 들어간 뉴스의 악성 댓글을 거르기로 했다. 최근 가수 겸 배우 설리의 사망을 계기로 악성 댓글이 사회적 문제로 주목받으면서 단행된 것으로 풀이된다.

네이버는 자체 개발한 악성 댓글 필터링 기술 ‘클린봇’을 뉴스 서비스에 적용했다고 13일 밝혔다. 클린봇은 AI 기술을 이용해 불쾌한 욕설이 포함된 댓글을 자동으로 숨겨주는 기능으로, 이 서비스는 올해 4월부터 웹툰과 쥬니버, 스포츠, 연예 등에 순차 적용됐다가 뉴스에도 도입됐다.

기존 네이버에서는 뉴스 댓글에 욕설이 등장하면 ‘○○○’ 식으로 자동으로 치환하는 기능을 갖추고 있었다. 그러나 이렇게 해도 글의 문맥을 통해 유추할 수 있는 욕설이 상당수였다는 지적이 있었다. 가령 “저런 ○○ 같은 게 어디서 ○○이야”라는 일부 문장으로도 맥락을 통해 모욕적인 뜻이 전달된다는 것이다. 이에 네이버는 욕설이 있는 댓글 전체를 가림 처리하기로 했다. 다만 명백한 욕설이 아니라 일상 언어와 혼용될 경우에는 걸러지지 않는다.

‘클린봇 온(ON)’ 상태가 기본적으로 설정돼 있으며 사용자가 ‘설정’ 옵션을 통해 사용여부를 선택할 수 있다.

네이버는 이번 클린봇 도입을 포함해 뉴스 댓글 정책 및 기술을 계속 개선해나갈 계획이다. 네이버 관계자는 “클린봇 적용 이후에도 AI 기술 고도화를 통해 탐지 성능을 계속 개선할 예정”이라며 “기술적 대응을 통해 서비스 품질을 높여갈 수 있도록 지속적으로 노력하겠다”고 말했다.

앞서 카카오는 자사의 포털 사이트 ‘다음(Daum)’의 연예 뉴스 댓글을 잠정적으로 폐지하고, 카카오 #탭의 실시간 이슈 검색어도 없앴다. 여민수 카카오 공동 대표는 지난달 25일 열린 기자간담회에서 “최근 안타까운 사건에서도 알 수 있듯이 연예 섹션 뉴스 댓글에서 발생하는 인격 모독 수준은 공론장의 건강성을 해치는 데 이르렀다는 의견이 많았다”면서 “사회·정치적 사건과 달리 연예는 개인 자체를 조명하는 게 강하고 순기능보다 역기능이 크다고 생각했다”고 강조했다.
/백주원기자 jwpaik@sedaily.com


<저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지> XC
이 기사를 공유하세요.

이메일 보내기

보내는 사람

수신 메일 주소

※ 여러명에게 보낼 경우 ‘,’로 구분하세요

메일 제목

전송 취소

메일이 정상적으로 발송되었습니다
이용해 주셔서 감사합니다.

닫기