"90초면 찾아낸다"…서울시, AI 안면인식 아동성착취물 감시

키워드 입력~영상물 검출 90초

얼굴 안 나와도 피해영상 판별

자료제공=서울시

서울시가 인공지능(AI) 안면인식 기술로 아동·청소년 성착취물을 24시간 추적·감시한다.

서울시는 22일 전국 최초로 아동·청소년 성착취물을 특정할 수 있는 AI 감시 기술을 개발했다고 밝혔다. 시 산하 서울연구원은 지난해 3월 연구개발에 착수해 이달 프로그램 개발을 마쳤다.

AI 감시 시스템은 딥러닝(대규모 데이터 학습) 기반 안면인식 기술을 활용해 성인과 구분이 어려운 아동·청소년의 성별과 나이를 판별할 수 있다. 영상물에 얼굴이 나오지 않더라도 영상 속 책·교복·인형 등 주변 사물과 대화 내용을 분석해 피해 영상 여부를 가려낼 수 있다.



이 시스템을 활용하면 키워드 입력부터 영상물 검출까지 90초 걸린다. 키워드로 피해 영상물을 검색해 수작업으로 찾아낼 경우 2시간 가량 소요되는 것과 비교하면 검출 속도가 80분의 1로 개선됐다. 정확도는 300% 이상 향상됐다.

신기술 도입으로 제때 신고하지 못해 성착취물 확산에 시달리는 아동·청소년 피해를 줄일 것으로 기대된다. 모니터링 건수가 지난해 2배인 30만건까지 가능해지고, 데이터가 축적될수록 정확도·속도는 더 향상될 수 있다.

김선순 서울시 여성가족정책실장은 “선제적인 감시·삭제에 나서 아동·청소년이 안전한 서울을 만들겠다”고 말했다.