전국에 쏟아진 '극한호우'로 수십명이 사망하거나 실종하는 등 피해가 잇따르는 가운데, 침수된 도심을 배경으로 한 생생한 재난 영상들이 유튜브 등에 다수 올라오고 있지만 AI(인공지능)로 생성한 가짜 영상이 다수 섞여있어 논란이 일고 있다.
21일 연합뉴스가 보도한 유튜브 '골파닭' 채널에 올라온 영상에 따르면 노란 우비를 입은 한 남성이 셀카봉을 들고 물에 잠긴 경복궁 안을 돌아다니고 있다. 이 남성은 "와, 비가 엄청 왔다. 경복궁이 완전히 물에 잠겼다"며 다급한 어투로 서울 도심 속 폭우 재난 상황을 전했다.
남성의 뒤로는 플라스틱 양동이로 물을 계속 퍼나르는 사람의 모습도 보였다. 그런데 갑자기 물에 잠긴 경복궁에서 '물개'가 나타난다. 남성은 "대박, 물개다!"라고 외치며 놀라워한다.
또 다른 영상에 따르면 무릎까지 물이 차오른 도로 위로 양복 차림의 남성이 걷고 있다. 취재진이 다가가 남성에게 "(폭우 때문에) 위험한데 왜 여기에 왔느냐"고 묻자 "출근을 해야 월급을 받는다"라고 답한다. 영상 제목은 'K 직장인 출근길'로 많은 주목을 받았지만 이 영상 역시 AI로 생성한 가짜 영상이다.
연합뉴스는 현재 유튜브에서 '장마', '폭우' 같은 키워드와 동영상 생성 AI '비오3(Veo3)'를 검색하면 AI로 만든 유사한 형태의 영상이 수십 개 올라온다고 전했다. 물이 가슴까지 차오른 지하철이나 침수된 강남역을 배경으로 중계방송하는 영상들도 쉽게 검색된다.
이 영상들은 이미지, 영상, 글 등 다양한 콘텐츠를 자동으로 만들어내는 생성형 AI를 활용했다. 지난 5월 구글이 음성 생성까지 지원하는 비오3를 대중에 공개하면서 이같은 패러디성 영상들이 급증하고 있다. AI 영상의 '범람'이 우리 사회 전 분야에 빠르게 스며들며 갖가지 변화와 논란을 불러일으키고 있다는 지적도 나온다.
MBC '서프라이즈'의 최근 변화가 대표적 사례다. 외국인 대역배우 연기로 잘 알려진 이 프로그램에서는 지난달 AI로 만든 영상을 방송에 활용해 화제를 모았다. '최초의 우주 유영', '모나리자 도난 사건' 등 재연이 쉽지 않은 에피소드들을 AI로 생생하게 구현했다. 기존 '서프라이즈' 재연 영상 못지않게 몰입감이 컸다는 평가를 받았다. 이후 MBC 유튜브엔 "배우, 분장, 카메라, 오디오, 그 외 스태프들…이 하나에 잃은 일자리가 몇 인지 가늠도 안 간다"는 등의 댓글이 달렸다.
영상의 현실감이 높아지며 부작용도 커지고 있다. 최근 일부 방송사들이 참새가 러브버그를 쪼아먹는 AI 영상을 실제 상황으로 오인해 '천적이 등장했다'는 오보를 내기도 했다. 러브버그 학살 반대를 외치던 여성 환경운동가가 자신에게 붙은 러브버그에 욕설을 내뱉는 영상 캡처 이미지 역시 AI로 만든 것이 확인됐다.
AI 영상이 빠르게 확산하는 데 비해 법과 제도 보완은 더딘 실정이다. AI 영상에 '워터마크' 표기를 의무화하는 AI 기본법은 내년 1월 22일 시행되지만 워터마크가 쉽게 제거될 수 있다는 점에서 실효성 논란도 크다는 지적이 나온다.
AI 영상이 범죄에 악용되는 사례도 증가하고 있다. 특히 실제 인물을 합성하는 ‘딥페이크’ 영상은 보이스피싱이나 연애 사기 등에 활용되고 있다. 한국형사·법무정책연구원에 따르면 딥페이크 관련 경찰 신고 건수는 2021년 156건에서 지난해 964건으로 급증했다. 올해 역시 증가세가 이어지고 있다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
seen@sedaily.com
