올 1월 미국의 유명 팝스타 테일러 스위프트의 얼굴을 합성한 음란 영상이 소셜미디어에 유포되는 사건이 발생했다. 조회 수는 삽시간에 4700만 회를 넘어섰고 백악관 대변인이 브리핑할 정도로 파장이 컸다. 이 사건은 ‘딥페이크’의 위험성과 파급력을 전 세계에 각인시킨 계기가 됐다.
딥페이크는 인공지능(AI) 심층 학습을 뜻하는 ‘딥러닝(deep learning)’과 가짜를 뜻하는 ‘페이크(fake)’의 합성어로 AI 기술을 활용해 기존 인물의 얼굴이나 특정 부위를 합성한 영상 편집물을 뜻한다.
인류 문명의 획기적 발전을 가져온 AI 기술은 동시에 성범죄 등 각종 부작용을 낳고 있다. ‘AI 선구자’ 요수아 벤지오 몬트리올대 교수는 영국 BBC와의 인터뷰에서 “AI가 점점 정교해지고 강력해지는 만큼 나쁜 행위자들이 AI 권한을 갖는 것이 우려된다”고 경고했다.
우려는 곧바로 현실로 나타났다. 전 세계는 이미 딥페이크를 활용한 가짜뉴스와 음란 영상 등으로 골머리를 앓고 있다. 한국도 예외는 아니다. 지난해 말 윤석열 대통령이 사과하는 가짜 영상이 소셜네트워크서비스(SNS)에 나돌았고 인터넷상에는 유명 연예인의 얼굴을 합성한 음란 영상이 넘쳐나고 있다.
방송통신심의위원회에 따르면 국내에서 성적 딥페이크 영상물에 차단·삭제 시정을 요구한 사례는 2020년 473건에서 2023년 5996건으로 12배 이상 증가했다.
최근에는 투자 사기나 보이스피싱에 악용되는 사례가 늘어나고 있다. 실제로 경찰에 붙잡힌 한 보이스피싱 일당은 방송에 출연한 검사의 얼굴을 활용해 딥페이크 범죄 수법을 개발 중이었던 것으로 밝혀져 충격을 줬다. 특히 보이스피싱 피해의 약 80%가 지인 등 사칭형이라는 점에서 생성형 AI 기반의 딥페이크는 매우 위협적이다.
프랑스의 유력 매체인 르몽드는 이런 한국을 두고 “오랫동안 몰카 공화국으로 불렸으나 이제는 딥페이크 공화국”이라고 꼬집었다.
더욱 심각한 것은 AI와 관련한 법과 제도가 마련돼 있지 않은 점이다. 현재 ‘인공지능 산업 육성 및 신뢰 확보에 관한 법률안’ 등 다양한 법안들이 국회에 상정돼 있지만 처리는 요원하기만 하다.
한국과 달리 세계 각국은 규제 장치 마련에 속도를 내고 있다. 유럽연합(EU)은 디지털서비스법을 통해 AI 콘텐츠에 별도 표시를 넣도록 했으며 미국 행정부도 AI 콘텐츠 식별 장치를 강화했다.
우리도 더 이상 손 놓고 있을 수만은 없다. AI 기술 후발 주자로서 선진국이 주도하는 규제 글로벌 스탠더드에 보조를 맞추지 않으면 관련 분야 교역에서 불이익을 당할 수 있다. 정부와 국회, 국내 플랫폼 기업들이 힘을 모아 딥페이크 자체를 처벌할 수 있는 법적 장치를 서둘러 마련해야 한다. AI 부작용으로부터 사회를 지킬 세밀한 규제 설계가 필요한 시점이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
loopang75@sedaily.com
