전체메뉴

검색
팝업창 닫기
이메일보내기

온라인서 '19금 사진' 팔던 '여신' 정체 알고보니…'대반전'

대학생들이 AI로 창조한 ‘가상 인간’으로 밝혀져

‘딥페이크’보다 사용법 쉬워…실제 여성 사칭 우려

이미지투데이




온라인에서 돈을 받고 자신의 나체 사진을 판매하던 여성이 생성형 인공지능(AI)으로 창조한 ‘가상 인물’로 알려져 화제다.

최근 비즈니스인사이더, 워싱턴포스트(WP) 등 외신에 따르면 ‘클라우디아(Claudia)’라는 누리꾼은 지난 1월부터 영미권 최대 온라인 커뮤니티 레딧(Reddit)에 자신의 나체 사진을 올리고 “돈을 내면 개인적으로 사진을 보내주겠다”며 유료 구매자를 모집했다.

사람들이 해당 계정을 의심한 건 지난주부터였다. 클라우디아가 “오늘 좀 예쁜 것 같다”는 문구와 함께 올린 사진을 본 이용자들은 “피부가 너무 매끄럽고 완벽하며, 뒤에 보이는 방의 모습도 인공적”이라고 지적했다.

클라우디아는 현실 세상에 존재하지 않는 사람인 것으로 밝혀졌다. 스태빌리티(Stability) AI가 개발한 이미지 생성 AI ‘스테이블 디퓨전(Stable diffusion)’으로 창조한 가상 인간이었던 것이다.



익명의 컴퓨터과학 전공 대학생들이 지난 10일 롤링스톤스에 클라우디아가 AI로 만든 가상 인간임을 인정했다고 WP는 전했다. 이들은 “앞서 한 레딧 이용자가 여성인 척 하는 다른 이용자에게 속아 500달러를 보낸 것을 보고 재미 삼아 계정을 만들었다”며 “클라우디아의 사진을 판매해 100달러를 벌었다”고 했다.

다만 연구원들을 “사진을 자세히 보면 가짜인 것으로 보이는 지점들이 명백히 있다”고 설명했다.

WP는 스테이블 디퓨전 등을 통한 AI 이미지 생성이 2017년 논란이 됐던 ‘딥페이크’ 기술보다 사용법이 쉬운 점을 지적하며 “실제 여성을 사칭하는 데 악용될 우려가 있다”고 지적했다.

스태빌리티 AI는 스테이블 디퓨전의 이용 약관에서 “사회 통념상 음란하고, 외설적이라 인식되는 이미지를 만드는 데 사용하는 것을 금지한다”고 밝히고 있다. 하지만 오픈소스를 기반으로 하는 스테이블 디퓨전은 누구나 쉽게 다운로드할 수 있어 음란 사진 생성과 합성 등을 막는 게 사실상 불가능하다는 지적이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved

서울경제를 팔로우하세요!

서울경제신문

텔레그램 뉴스채널

서경 마켓시그널

헬로홈즈

미미상인