잘 알려지지 않은 알파벳의 한 부서는 소셜미디어를 보호할 전략을 갖고 있다.
소셜미디어 상에서 트롤 troll *역주: 인터넷 토론방에서 상대방의 화를 돋우는 사람들 에게 공격을 당해 본 적이 있는가? 필자는 있다. 작년 12월 백인 우월론자 데이비드 듀크 David Duke의 조롱조 트윗이 그의 추종자들을 자극해 내 트위터 계정을 불경스러운 수채통으로 만들어놓았다. 나치에 열광하는 말과 거슬리는 인신공격성 트윗으로 도배를 한 것이었다. 공격은 며칠간이나 이어졌다.
우리는 트롤과의 온라인 전쟁에서 패하고 있다. 증오와 욕설이 빗발쳐 사람들은 소셜미디어를 접고 있고, 웹사이트들은 댓글 기능을 없애고 있다. 역겨운 미치광이들이 온라인 커뮤니티를 지배하길 원하는 사람이 누가 있겠는가?
다행스럽게도 이런 비관적 생각은 기우였는지도 모른다. 트롤을 길들이고 정중한 온라인 토론을 활성화할 수 있는 새로운 전략이 있기 때문이다.
구글 모회사 알파벳 Alphabet의 내부 싱크탱크 직소 Jigsaw가 개발한 이 기술은 인공지능을 활용해 엄청나게 많은 온라인 댓글들을 점검할 수 있다(한때는 불가능했던 일이었다).
수석 과학연구원 루카스 딕슨 Lucas Dixon은 직소의 당면 과제를 설명하기 위해, 트롤 문제를 소위 ‘서비스 거부 공격(denial-of-service attacks)’에 비유했다. 이는 공격자들이 서버를 마비시키기 위해 쓰레기 트래픽으로 웹사이트에 대량 접속하는 것을 말한다.
딕슨은 이에 대해 “트래픽 범람 대신 댓글이나 소셜미디어, 해시태그가 넘치게 해 나머지 다른 사람들은 단 한마디도 못하게 만들면서 근본적으로 대화를 지배하는 것”이라고 설명했다.
악성 댓글의 범람은 개인뿐만 아니라, 미디어 회사, 소매업체-대부분 온라인 커뮤니티를 중심으로 사업이 이뤄진다-에게도 치명적이다. 트롤 연구의 일환으로 직소는 트롤이 유발하는 피해를 수량화하기 시작했다. 예컨대 위키피디아 Wikipedia의 경우, 직소는 위키피디아 에디터 개인에 대한 공격과 그 이후 에디터의 사이트 기여 빈도의 상관관계를 측정할 수 있다.
온라인 대화의 탈선을 해결하는 최신 방법은 방대한 데이터와 딥 러닝에서 찾을 수 있다. 빠르게 발전하는 딥 러닝은 인공지능의 하위 개념으로 뇌의 신경망을 모방한 것이다. 딥 러닝은 최근 들어 구글 번역기에 획기적인 돌파구를 마련해주기도 했다.
댓글의 경우, 직소는 뉴욕타임스와 위키피디아에서 댓글 수백만 개를 가져와 공격성과 부적절한 특성을 파악하도록 머신을 훈련시켰다. 이것이 갖는 의미는 다음과 같다: 현재 뉴욕타임스는 전체 기사 중 10퍼센트 정도에만 댓글을 관리하는 프로그램을 사용하고 있다. 하지만 조만간 훈련을 통해 관리용량을 10배로 늘리는 알고리듬을 활용할 수 있게 된다.
매체마다 댓글의 어조와 단어는 극명한 차이가 나타날 수 있다. 하지만 직소 측은 자사 프로그램이 다양한 웹사이트에 적용될 수 있을 것이라 밝히고 있다. 이는 실제로 소규모 블로그와 온라인 소매업자가 트롤로 사이트가 도배될 걱정 없이 댓글에 대처할 수 있게 된다는 의미를 가진다.
테크노파일 Technophiles *역주: 신기술에 열광하는 사람들은 직소의 사업에 관심을 갖는 듯하다. 기술전문지 와이어드 Wired 최신호는 ‘인터넷 저스티스 리그’라는 특집기사를 통해 직소의 순진한 이상가적 프로젝트에 찬사를 보내기도 했다.
그러나 일부 전문가들은 직소 팀이 문제를 과소평가하고 있을지도 모른다고 지적하고 있다.
최근 주목을 받은 머신 러닝 사업은 이미지를 식별하고 텍스트를 해석하는 데 집중하고 있다. 하지만 인터넷 상의 대화는 매우 맥락적이다. 예컨대 온라인 댓글 중 ‘개x’이란 욕을 제거하도록 머신 러닝을 교육하는 건 어쩌면 명확해 보일지도 모른다. 하지만 그 머신은 같은 알고리듬으로 ‘사는 게 개같다’나 ‘내 직업을 개같다고 말하긴 싫지만…’처럼 악의 없이 사용한 사람들의 포스팅도 걸러낼 수 있다. 컴퓨터에게 남을 비방하는 욕만 걸러내게 하는 건 쉽지 않은 일이다.
데이비드 아우어바흐 David Auerbach 전 구글 소프트웨어 엔지니어는 “머신 러닝이 문장의 스타일을 이해할 순 있지만 문맥이나 감정까진 이해하지 못한다. 트윗처럼 짧은 글에선 더욱 그렇다. 인간도 평생을 배워야 하는 것”이라며 “직소 프로젝트는 뉴욕타임스 같은 웹사이트에선 유용한 관리 수단이 될 수 있다. 하지만 트위터나 레딧 Reddit처럼 자유로운 대화의 장에서 사용하기엔 부족함이 있다”고 덧붙였다.
딕슨은 이러한 회의적 태도에 당황하지 않는다. 그는 “트롤이 서비스 거부 공격처럼 절대 해결되지 않을 문제이지만, 그 효과는 누그러뜨릴 수 있다”고 말했다. 딕슨은 직소가 최근 발전하고 있는 머신 러닝 기술을 통해 트롤을 길들임으로써, 인터넷 예절이 다시 중요해지게 할 수 있을 것이라 믿고 있다.
직소 연구진은 트롤 갱단-갑자기 나타나 집단으로 악성 댓글을 퍼붓는다-중 일부는 개인 또는 조직이 집단을 모방하기 위해 사용한 봇으로 드러났다고 지적했다. 직소 프로그램들은 이러한 전략을 파악하고 제압하는 데 빠르게 능숙해지고 있다.
딕슨은 ‘댓글 관리 프로그램이 욕을 검열할 때마다, 트롤은 다른 욕으로 바꿀 것이기 때문에 그들을 길들이는 건 불가능하다’는 주장에 대해서도 해결책을 제시했다. 그는 “우리가 프로그램을 더 개발할수록, 공격은 더 창의적으로 변할 것”이라며 “그러나 공격이 너무나 창의적이면 그 누구도 그것을 이해할 수 없어 더 이상 공격이 되지 않을 것이다. 그것이 우리의 궁극적 목표”라고 강조했다.
트롤이 점령한 소셜미디어
2015~16년 NPR, 로이터 같은 유명 미디어사이트와 블로그들이 웹페이지에서 댓글을 삭제했다.
2015년 7월 레딧의 임시 CEO 엘렌 파오 Ellen Pao는 (그녀의 표현대로) “트롤들의 사상 최대규모 공격”을 받고 사임했다.
2016년 7월 여배우 레슬리 존스 Leslie Jones는 트롤들이 자신의 트위터 계정에 인종차별적, 성적 이미지를 도배하자 트위터를 탈퇴했다. 그녀는 마지막 트윗에 “그들이 얼마나 사악한지 당신들은 모를 것”이라는 메시지를 남겼다
2016년 여름 트롤들이 테일러 스위프트 Taylor Swift의 위키피디아 페이지와 소셜미디어 계정을 뱀 사진으로 파괴했다.
서울경제 포춘코리아 편집부 / BY JEFF JOHN ROBERTS
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
