최근 개인 생방송 서비스 ‘페이스북 라이브’를 통해 스스로 목숨을 끊는 모습을 생중계하는 일이 잇따라 발생하자 페이스북이 인공지능(AI) 기술을 동원한 자살 방지 알고리즘을 개발했다.
UPI 통신에 따르면, 1일(현지시간) 페이스북은 블로그 게시물 내용에서 자해 혹은 자살 징후를 파악하고, 라이브 방송에서 자살 의심 행동이 보일 경우 손쉽게 신고할 수 있도록 시스템을 갖췄다고 밝혔다.
페이스북이 개발한 AI 알고리즘은 ‘우울’, ‘고통’과 같은 내용이 나오거나 “너 괜찮니?”, “네가 걱정된다”는 내용의 댓글이 달린 게시물을 선별한다. 이를 페이스북 직원들이 검토하여 재빨리 자해 위험이 있는 이용자에게 도움을 준다.
또한 페이스북은 국립섭식장애협회, 국립자살방지생명선 등의 지원단체와 메신저로 대화할 수 있도록 지원한다. 페이스북 라이브 이용자가 자살, 자해, 폭력 등의 위험 행동을 하는 경우, 시청자가 ‘신고하기’ 기능으로 상황을 알릴 수 있다.
버네사 칼리슨-버치 페이스북 제품 매니저는 “위급한 상황에서는 속도가 생명”이라며 이 모든 과정이 신속히 진행된다고 설명했다. 페이스북이 개발한 자살 예방 기능은 미국 전역에서 시험 운영할 계획이다.
/조은지 인턴기자 ejee@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
