미국에서 인공지능(AI)으로 사진 속 여성의 옷을 벗기는 딥페이크 애플리케이션(앱)과 웹사이트가 우후죽순 생겨나면서 이를 악용한 사례가 발생할 수 있을 것이라는 우려가 커지고 있다.
10일(현지시간) 블룸버그통신은 서비스형 소프트웨어 기업 그래피카를 인용해 지난 9월 한 달 동안에만 2400만명이 AI를 사용해 옷을 벗기는 딥페이크 웹사이트를 방문했다고 보도했다.
딥페이크는 딥러닝과 페이크(fake)의 합성어로, 인공지능을 기반으로 활용한 인간 이미지 합성 기술이다. 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭한다.
딥페이크 앱과 웹사이트는 AI를 사용해 사진 속 사람이 옷을 벗고 있는 것처럼 이미지를 만든다. 사진 속 인물은 대부분 여성이다.
블룸버그는 이들 앱과 웹사이트가 최근 AI 기술 발달이 범죄에 악용될 수 있다는 우려를 심화시키고 있다고 지적했다. 소셜 미디어에 올라와 있는 타인의 사진을 당사자 모르게 가져와 음란물로 만들고 이를 배포하는 심각한 법적·윤리적 문제를 야기할 수 있다는 것이다.
실제로 X에 올라온 한 광고는 사용자가 AI로 다른 사람의 나체 이미지를 만들어 다시 그 사람에게 보낼 수 있다는, 성희롱을 조장하고 있었다.
또 다른 관련 앱은 유튜브에 광고 비용을 지불해 '벌거벗기다'(nudify)라는 단어를 검색하면 가장 먼저 표시됐다.
개인정보 보호 전문가들은 AI 기술의 발전으로 딥페이크 소프트웨어가 더 쉽고 더 효과적으로 만들어졌다고 우려한다.
디지털 권리 옹호 단체인 일렉트로닉 프론티어 재단의 에바 갈페린 사이버보안국장은 "일반인이 일반인을 대상으로 이런 행위를 하는 일이 많아지고 있다"며 "고등학생, 대학생들 사이에서 이런 일이 벌어지고 있다"고 지적했다.
구글은 이 같은 문제에 대해 "성적으로 노골적인 콘텐츠는 허용하지 않고 있다"며 "문제가 된 광고를 검토했으며 우리 정책을 위반한 광고는 삭제하고 있다"고 밝혔다.
레딧 측은 가짜 음란물의 동의 없는 공유는 금지하고 있으며 조사 결과 여러 도메인을 막았다는 입장을 전했고 틱톡은 '옷 벗기'(undress)라는 키워드를 차단하고 있다고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
phillies@sedaily.com
