인공지능(AI)을 활용해 여론을 선동하거나 사실을 왜곡하는 이른바 ‘AI 가짜 뉴스’가 빠르게 확산되고 있다. 텍스트를 넘어 사진과 영상까지 조작 대상이 되면서, 온라인에서 유통되는 정보 전반에 대한 신뢰가 흔들리고 있다는 지적이 나온다.
5일(현지시간) 뉴욕타임스(NYT)는 니콜라스 마두로 대통령 체포 작전 이후 온라인에 유포된 사진들을 자체 분석한 결과 “현재 퍼진 이미지 대부분은 신뢰할 수 없다”고 평가했다. 무장한 미군이 마두로 대통령의 양팔을 잡고 이동하는 사진이나, 구금시설에서 촬영된 것처럼 보이는 사진 등이 대표 사례다. NYT는 “사진이 저화질이고 기울어져 있으며, 체포 당시 운동복 차림으로 알려진 정황과 달리 양복을 입고 있다는 점에서 신빙성이 떨어진다”고 분석했다.
이번 마두로 대통령 체포는 국제적으로 중대한 사건의 초기 국면에서 AI 생성 이미지가 대거 활용된 첫 사례로 기록될 가능성이 크다. 사실관계가 완전히 공개되지 않은 상태에서 조작 이미지가 사회관계망서비스(SNS)를 통해 급속히 확산되며 여론 형성에 영향을 미쳤기 때문이다.
이 같은 AI 조작 사진은 국내에서도 잇따르고 있다. 최근 SNS 쓰레드에는 “대낮에 미국에서 항공모함이 들어왔는데 우리나라 언론은 이런 걸 하나도 보도하지 않는다”는 글과 함께 한 장의 사진이 퍼지며 화제가 됐다. 사진에는 서울 도심을 가로지르는 한강 위로 미군 항공모함이 항해하는 장면이 담겨 있었다.
하지만 해당 이미지는 실제 촬영물이 아닌, AI로 생성·조작된 사진으로 보인다. 사진 속 함정은 미 해군 항공모함급으로 보이지만, 한강은 항공모함이 항해할 수 있는 조건을 갖추지 못했다. 대형 군함 항해를 위한 수로 준설이나 항로 관리 이력도 없는 만큼, 물리적으로 성립하기 어려운 장면이라는 지적이다. 도심 한복판을 민간 교통과 나란히 ‘대낮에’ 항해하는 장면은 사실상 불가능하다. 그럼에도 해당 사진은 “언론이 숨기고 있다”는 문구와 결합돼 빠르게 확산됐다.
AI 조작은 정치·외교 이슈를 넘어 일상 영역에서도 문제를 일으키고 있다. 최근 영국 일간 더타임스는 AI 편집 기능으로 배달 음식 사진을 조작해 환불을 받아내는 신종 사기 수법이 확산되고 있다고 보도했다. 일부 소비자들은 음식에 가짜 곰팡이를 추가하거나, 케이크가 녹아내린 것처럼 보이게 만들고, 디저트 상자에 벌레 이미지를 삽입했다. 잘 익은 햄버거 패티를 덜 익은 것처럼 보이게 조작하는 사례도 확인됐다.
이들은 이렇게 만든 가짜 이미지를 근거로 우버이츠, 딜리버루, 저스트잇 등에 환불을 요구한 것으로 알려졌다.
전문가들은 AI 기술 발전 속도에 비해 이미지·영상의 진위를 가려낼 수 있는 사회적 장치와 이용자 인식은 여전히 부족하다고 지적한다. 사진과 영상마저 의심해야 하는 ‘불신의 시대’가 현실이 된 가운데, 플랫폼의 검증 책임과 함께 이용자들의 비판적 정보 소비 능력이 그 어느 때보다 중요해지고 있다는 분석이다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
lia@sedaily.com
