전체메뉴

검색
팝업창 닫기
이메일보내기

尹 "딥페이크는 명백한 범죄"…'처벌 강화·워터마크 도입' 목소리 커진다

■ 尹, 디지털 성범죄 철저 수사 주문

AI 기본법 국회 표류에 사태악화

방심위·경찰청, 확산 차단 총력

파급효과 고려 사전적 규제 필요

여야, 간담회 개최 등 대응 나서

윤석열 대통령이 27일 서울 용산 대통령실 청사에서 열린 국무회의에 참석해 디지털 성범죄에 대한 철저한 수사를 주문하고 있다. 연합뉴스




인공지능(AI) 기술을 이용해 지인이나 소셜네트워크서비스(SNS) 이용자의 사진을 음란물과 합성한 딥페이크 영상물이 심각한 사회문제로 떠오른 가운데 정부가 강력 단속에 나서기로 했다. 정치권에서도 딥페이크 성범죄에 대한 처벌 강화를 추진하기로 했다. 이와 함께 생성형 AI 기술을 디지털 범죄에 악용할 수 없도록 ‘AI 기본법’ 제정을 비롯해 제도 정비에 나서야 한다는 목소리가 높아지고 있다.

윤석열 대통령은 27일 서울 용산 대통령실 청사에서 열린 제37차 국무회의에 참석해 딥페이크 성범죄에 대한 철저한 수사와 엄벌을 주문했다. 윤 대통령은 “최근 불특정 다수를 대상으로 딥페이크 영상물이 SNS를 타고 빠르게 유포되고 있다”며 “명백한 범죄행위로 관계당국은 디지털 성범죄를 뿌리 뽑아야 한다”고 말했다.

윤 대통령이 AI 기술을 악용한 디지털 성범죄에 대한 강력한 대응을 주문하고 나서자 관계부처들도 부랴부랴 대책 마련에 나섰다. 이날 실·국장 회의를 소집해 딥페이크 음란물 확산 사태와 관련한 대책을 마련한 방송통신심의위원회는 28일 전체회의를 열어 해당 내용을 확정할 예정이다. 방심위는 홈페이지에 딥페이크 음란물 피해 신고 전용 배너를 신설하고 관련 모니터링 요원을 기존보다 2배로 늘려 실시간으로 피해 상황을 감시할 방침이다. 텔레그램과도 즉시 협의할 수 있는 ‘핫라인’을 개설하고 피해 확산 차단에 신속성을 기할 예정이다.





경찰청 국가수사본부는 28일부터 내년 3월 31일까지 7개월간 ‘딥페이크 성범죄 관련 특별 집중 단속’을 실시한다. 서울지방경찰청은 이날 딥페이크 성범죄 확산을 막기 위해 서울 1374개 초중고등학교 학생과 교사·학부모 78만 명을 대상으로 긴급 스쿨벨을 발령했다.

정치권에서도 딥페이크 성범죄 근절을 위한 대책 마련에 나섰다. 한동훈 국민의힘 대표는 딥페이크 음란물 제작 및 유포 사건에 대한 대응 방안을 논의하기 위해 29일 긴급 현안 간담회를 주재한다. 이번 간담회는 실무진 당정협의회 차원으로 진행될 예정이다. 더불어민주당은 딥페이크 음란물 범죄에 대한 처벌을 강화하는 방안을 검토하기로 했다. 김용민 민주당 원내정책수석부대표는 이날 국회 원내대책회의에서 “여성가족부가 아무 역할도 못하고 있는 것 아닌가”라며 “딥페이크 성범죄자들을 철저히 수사해 처벌할 수 있도록 미흡한 현행법을 개정할 것”이라고 말했다.

전문가들은 이제라도 AI 기술이 각종 범죄에 악용되는 것을 막는 법안을 마련하거나 관계부처 간 공동 대처가 시급하다고 입을 모은다. AI 생성물임을 알리는 워터마크를 의무적으로 도입하는 등 사람들이 가상 정보라는 사실을 인지해 스스로 판단할 수 있도록 돕는 제도적 장치를 마련해야 한다는 것이다. 21대 국회에서도 이 같은 내용을 담은 AI 기본법이 발의됐지만 임기 종료로 폐기됐다. 22대 국회에서도 유사한 내용의 법안이 발의됐지만 아직까지는 딥페이크 생성물을 제작하는 기술을 가진 기업들이 스스로 AI 생성물임을 밝히는 ‘자율적’ 참여에만 기댈 수밖에 없는 상황이다.

정부 부처의 한 관계자는 “AI 기술 고도화로 지인은 물론 불특정 다수를 대상으로 한 딥페이크 생성물 제작이 쉬워졌다”면서 “딥페이크 AI 생성물에 대한 워터마크 표시를 의무화한 법이 있으면 이 법에 따라 처벌 규정을 만들고 관리·감독을 하기 수월해질 뿐 아니라 사용자들도 경각심을 더 가질 수밖에 없지 않았겠냐”며 아쉬움을 토로했다. 이성엽 고려대 기술경영전문대학원 교수는 “딥페이크 생성물에 따른 사회적 파급 효과가 크다는 점을 고려하면 워터마크를 도입하는 등 플랫폼의 책임을 강화하는 최소한의 규제는 필요하다”면서 “AI 규제가 기술적 한계나 관련 산업 추진 동력을 떨어트릴 수 있다는 우려가 있지만 딥페이크 음란물 확산 속도를 고려할 때 사후적 규제보다는 사전적 규제가 도입돼야 한다”고 강조했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >


주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved

서울경제를 팔로우하세요!

서울경제신문

텔레그램 뉴스채널

서울경제 1q60