그록의 가짜 비키니사진 시간당 6000건...英, 칼 빼들었다 [글로벌 왓]

48시간 내 삭제 의무...매출 10%벌금 디지털 태그로 자동 삭제 방안도 검토 ‘그록 사태’로 SNS 딥페이크 도마에 스타머 “온라인, 여성 폭력의 최전선” 영국 런던의 한 버스 정류장에 사회관계망서비스(SNS) X 보이콧을 촉구하는 포스터가 붙어 있다. 로이터연합뉴스 영국 정부가 인공지능(AI)이 생성했거나 피해자의 동의 없이 촬영된 성적 학대 이미지가 올라온 플랫폼 기업들에 48시간 내 삭제 의무화 규제를 적용하기로 했다. 19일(현지 시간) 영국 과학혁신기술부(DSIT)는 보도자료에서 기한 내 콘텐츠를 삭제하지 않는 기업들에 최대 매출의 10% 벌금 부과 또는 영국 내 서비스 차단 조치를 적용할 수 있다고 밝혔다. 피해자들은 영국 방송통신규제기관 커뮤니케이션청(Ofcom)이나 플랫폼 기업들에 직접 피해 사실을 신고할 수 있으며, 커뮤니케이션청은 신고 접수 후 삭제 경고를 발령한다. 앞서 영국 정부는 동의 없이 촬영한 성적 학대 이미지를 제작하거나 공유하는 행위를 ‘우선 범죄’로 규정하고 아동 학대와 테러 수준의 심각한 범죄로 분류한 바 있다. 규제당국은 성적 학대 이미지들에 디지털 태그를 부착해 해당 이미지가 다시 게시될 경우 자동 삭제하는 방안도 검토 중이다. 아울러 온라인 안전법에 규제되지 않는 불법 온라인 사이트를 대상으로는 인터넷 서비스 제공자(ISP)가 접속을 차단할 수 있도록 구체적인 지침도 발표할 방침이다. 키어 스타머 영국 총리는 “온라인 세계는 여성과 소녀에 대한 폭력에 맞서는 21세기 전투의 최전선”이라며 “이는 우리 정부가 챗봇과 ‘나체화’(nudification) 도구에 긴급 조치를 취하는 이유”라고 강조했다. 이번 조치는 사회관계망서비스(SNS)에서 AI 딥페이크 이미지가 급증한 데 따른 것이다. 특히 X의 AI 챗봇 그록(Grok)을 통해 실존 인물 딥페이크 이미지가 대량 유포되면서 규제 필요성이 부각됐다. 가디언 분석에 따르면 그록 챗봇에는 비키니 사진을 만들어달라는 요청이 시간당 약 6000건이 접수됐다. 한 연구에 따르면 그록이 게시한 이미지의 85%는 성적인 내용을 담고 있는 것으로 나타났다. 아동 안전 단체들은 다크웹에서 AI가 생성한 아동 성적 이미지도 발견했다. 국제적 비판이 이어지자 X는 지난달 실존 인물을 대상으로 한 비키니, 속옷, 노출이 심한 복장 이미지 생성을 차단하고 이미지 생성 및 편집 기능을 유료 구독자에게만 제한하는 등 대응에 나섰다. 다만 ‘그록 사태’를 계기로 각국의 SNS 규제 움직임은 확산되는 분위기다. 유럽 일부 국가는 호주의 ‘10대 SNS 금지법’ 도입도 검토 중이다. 이번 규제안은 제프리 엡스타인 스캔들에 간접적으로 연루된 스타머 총리가 사임 압박을 받는 가운데 발표한 것이기도 하다. 스타머 총리는 제프리 엡스타인과의 친분을 알면서도 피터 맨덜슨 전 산업장관을 주미 대사로 임명했다는 비판을 받아 왔다. 스타머 총리는 가디언에 “가해자와 피해를 방조하는 기업들에게 책임이 주어져야 한다”면서 “이 조치는 온라인 여성혐오라는 ‘국가적 비상사태’를 극복하기 위해 필요하다”고 강조했다.