IT공룡들 "조작동영상(딥페이크)에 대응하라"

내년 미국 대선을 앞두고 페이스북, 트위터, 구글 등 정보기술(IT) 공룡들이 ‘딥페이크’ 동영상 확산을 방지하려 애쓰고 있다. 딥페이크란 정교한 머신러닝(기계학습) 알고리즘을 이용해 조작된 이미지나 동영상을 말한다. 다른 사람의 동영상에 유명 정치인이나 연예인의 얼굴을 감쪽같이 합성해 실제로 하지 않은 발언이나 행동을 한 것처럼 만들 수 있어 동영상의 진위를 구별하기가 거의 불가능하다.

23일 월스트리트저널에 따르면 해당 매체는 “월트디즈니가 일부 ‘스타워즈’ 영화에 캐릭터를 집어넣기 위해 이 알고리즘을 사용하는 등 딥페이크 기술은 무해한 앱에도 쓰이지만 악의적인 콘텐츠 제작에도 이용될 수 있다”고 지적했다. 이미지 편집 소프트웨어 어도비의 부사장 데이나 라오는 “가짜 동영상을 만드는 기술의 진보가 워낙 빨라서 기술을 이용해 딥페이크를 적발하는 게 곧 매우 힘들어질 것”이라며 “이 싸움은 군비 경쟁이 될 것”이라고 전망했다. 딥페이크 제작 기술의 발전에 맞서 이를 적발하려는 쪽에서도 관련 기술을 발달시키는 경쟁이 촉발 될 것이란 뜻이다. 사이버보안 스타트업 딥트레이스에 따르면 올해 8월 온라인의 딥페이크 숫자는 작년 12월의 2배 수준인 1만4,678건으로 증가했다.

정보기술(IT) 공룡들도 행동에 나섰다. 구글은 20일 정치광고 규정을 업데이트하면서 앞으로 정치광고나 다른 광고에서 딥페이크의 사용을 금지한다고 밝혔다. 트위터 또한 이달 초 조작된 사진이나 동영상, 오디오가 자사 플랫폼에 올라올 경우 이를 찾아내 표시하는 방안을 검토 중이다. 트위터 관계자는 “이런 부류의 합성 미디어나 가짜 정보는 대중의 신뢰를 약화시키고 핵심적 이슈에 대해 생산적 토론을 할 역량을 갉아먹는다”고 말했다.

페이스북과 마이크로소프트, 아마존은 6∼7개 대학과 손잡고 다음 달부터 ‘딥페이크 탐지 챌린지’를 가동한다. 이 프로그램은 사람들이 오해하도록 하기 위해 조작된 미디어를 적발하고 방지하는 새 방안을 연구하기 위한 것이다. 이뿐 아니다. 페이스북은 배우들이 등장하는 10만 건의 동영상을 수집해 연구자들이 딥페이크를 잡아내는 시스템을 개발하고 시험하는 데 이용하도록 하고 있다. 구글도 딥페이크 적발 연구를 연마할 수 있는 동영상 목록을 구축했다.
/양철민기자 [e-mail]