페이스북이 신종 코로나바이러스 감염증(코로나19)와 관련해 유해성이 높다고 판단되는 게시물 5,000만건에 대해 경고 라벨을 표시했다.
페이스북은 지난 12일(현지시간) 2019년 10월부터 2020년 3월까지의 페이스북 커뮤니티 규정 시행 현황을 담은 ‘제 5차 커뮤니티 규정 집행 보고서’를 발표하고, 기술 발전을 통해 유해 게시글에 대한 선제적 대응을 하고 있다고 밝혔다.
해당 보고서에 따르면 페이스북은 지난 4월 한 달 동안 독립적인 팩트체킹 파트너들이 게재한 약 7,500개의 기사를 바탕으로 약 5,000만건의 코로나19 관련 게시물에 대해 경고 표시를 했다.
페이스북은 그동안 혐오발언이나 불법 의약품, 아동 성착취 등 커뮤니티 규정을 위반하는 콘텐츠를 선제적으로 파악하는 기술을 발전시켜왔다. 혐오발언에 대한 감지 기술을 적용할 수 있는 언어를 확대해왔고, 그 결과 사전 감지율이 지난 2개 분기에 비해 약 8%p 증가했다.
페이스북 측은 “기술 개선을 통해 더 많은 콘텐츠를 감지할 수 있게 됐다”면서 “이제 삭제 조치하는 콘텐츠의 약 90%를 이용자 신고 이전에 감지할 수 있다”고 설명했다.
아울러 페이스북은 지난해 4분기에 삭제 조치한 불법 의약품 관련 콘텐츠의 두 배에 달하는 880만건의 콘텐츠를 이번 분기에 제거했다.
인스타그램의 경우에는 자살·자해 콘텐츠를 파악할 수 있도록 텍스트와 이미지 매칭 기술을 향상시켰다. 그 결과 규제 조치가 취해진 콘텐츠의 양은 40% 늘었고, 사전 감지율은 지난 보고서와 비교해 12%p 이상 증가했다.
이뿐만 아니라 기존의 규정 위반 콘텐츠와 유사한 콘텐츠를 감지하고 삭제하는 기술이 향상돼 페이스북과 인스타그램에서 더 많은 아동 나체 이미지와 아동에 대한 성착취 콘텐츠를 삭제할 수 있게 됐다고 설명했다.
페이스북 측은 “지난 6개월간 콘텐츠 확산 정도와 심각성을 중심으로 여러 가지 요소를 고려해 콘텐츠 우선순위를 정하고, 그에 따라 검토할 수 있도록 기술을 확대 적용했다”면서 “앞으로 게시물의 자동 삭제 등 콘텐츠에 실제 조치를 취하는 과정에서의 기술도 발전시킬 것”이라고 강조했다.
/백주원기자 jwpaik@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
