중국 선전의 건널목을 과감히 무단횡단하는 사람들의 모습이 거대한 스크린에 생중계되고 있다. 물론 이들은 감시 당하고 있다는 사실을 알지 못한다. 하지만 무단 횡단자를 잡아내는 일은 경찰이 하지 않는다. 길가에 설치된 최신 안면인식 기술 카메라가 대신 한다. 범법자들의 얼굴을 화면에 띄워, 다른 이들이 수치심 때문에 법을 준수하도록 만드는 것이다.
이 놀라운 기술은 인텔리퓨전 Intellifusion이라는 지역업체가 개발했다. 이 회사는 중국의 첨단 감시 기술 시장에서 활동 중인 중소업체 중 한 곳이다. 급성장하는 이 시장의 선두주자는 중국의 두 스타트업 센스타임과 메그비다. 이들이 보유한 AI 기반 얼굴인식 기술은 전 세계에서 가장 강력한 것으로 보인다.
센스타임은 홍콩 중문대학교 연구 프로젝트에서 출발했다. 2014년 당시 컴퓨터 비전 기술 분야 전문가인 샤오우 탕 Tang Xiao‘ou 교수와 제자 리 쉬 Xu Li(현 CEO)가 회사를 공동 설립했다. 현재 전
세계에서 가장 가치가 높은 AI 스타트업인 센스타임은 기업가치가 최소 45억 달러에 이르고 있다.
라이벌로 꼽히는 메그비의 가치는 센스타임보다 적은 20억 달러다. 하지만 이 회사는 세계 최대 규모의 오픈 소스 안면인식 플랫폼인 페이스(Face)++를 개발했다. 자체 안면인식 프로그램을 만드는 30만 명 이상의 개발자들이 이 플랫폼을 사용하고 있다. 메그비는 지난 2011년 ‘중국의 MIT’라 불리는 칭화대 졸업생 세 명이 설립했다. 중국 도시들의 ‘눈과 뇌 역할’을 하는 이 회사는 경찰력이 ‘인간의 한계 이상으로’ 작용하도록 만든다는 목표를 세워놓고 있다.
중국 정부는 이 기술을 통해 14억 국민들의 신원을 몇 초 안에 파악하는 것은 물론, 개인들의 행동을 기록해 잠재적인 위협도 예측할 수 있다. 필립 K. 딕 Philip K. Dick의 마이너리티 리포트에 등장하는 ‘사전 범죄’의 현실 판인 셈이다.
중국 정부는 메그비와 센스타임 같은 회사들을 후원하는 동시에 그 수혜도 입고 있다. 중국 내 40여 곳의 지방 경찰청(지역에서는 공안사무소로 불린다)이 센스타임의 감시 시스템을 구입했다. 회사 측 설명에 따르면, 광저우 경찰은 2017년 이 기술을 도입한 후 용의자 2,000여 명의 신원을 확인해 800명 이상을 체포했다. 100건 가까운 사건을 해결하기도 했다.
한편으로 메그비는 중국 정부가 전국에 스카이넷 Skynet(영화 터미네이터에서 인간을 공격하는 인공지능으로, 상당히 문제가 많은 이름이다)이라는 감시 프로그램을 설치하는 조치를 지원하고 있다. 2005년 첫 선을 보인 스카이넷은 중국 전역을 CCTV로 뒤덮어 ‘원형 교도소(panopticon)’ 같은 전방위 감시체계를 구축한다는 목표를 갖고 있다. 중국 노동자일보에 따르면, 페이스++기술의 발
전으로 2016년 이후 AI가 탑재된 수 백만 대의 카메라가 설치됐고, 이를 통해 약 2,000명의 용의자가 체포됐다.
중국 정부는 도망자를 추적하고, 실종자들을 찾는데 이 기술을 활용할 것이라 주장한다. 하지만 악용될 소지 또한 명백하다. 센스타임과 메그비는 향후 자신들의 기술이 이용될 분야에 대해 어떠한 책임도 없다는 태도를 보여왔다. 자신들은 규칙을 만들고 시행하는 당사자가 아니라, 공급업체에 불과하다는 것이다(두 회사 모두 취재과정에서 코멘트를 거부했다).
옥스퍼드대학교 디지털윤리 연구소장 루치아노 플로리디 Luciano Floridi 교수는 이 같은 책임 회피를 강하게 비판했다. 그는 “먼 옛날 돌을 뾰족하게 갈아 만들기 시작했던 시절부터 ‘우리는 단지 도구를 만드는 것 뿐‘이라는 변명은 통하지 않아왔다”고 지적했다.
미국 내 일부 회사들은 AI 응용프로그램에 대해 적극적인 관리 감독을 요구하고 있다. AI 연구와 상업화를 진행 중인 마이크로소프트는 지난 7월 미국 정부를 상대로 ’안면인식 기술의 활용을 규제할 정부 차원의 프로그램‘을 만들어 달라고 요청한 바 있다. 액손 Axon(테이저 Taser의 후신)도 AI가 탑재된 경찰용 도구 개발을 위해 외부 자문위원회를 발족시켰다.
중국의 AI 기술을 집중 연구하는 옥스퍼드대학교의 제프리 딩 Jeffrey Ding은 “보안 목적으로 활용하는 안면인식 기술에 대해 서구 국가들이 상대적으로 더 많이 반발하고 있다”고 설명했다. 그는 이어 “중국에선 (해당 기술을) 보다 적극적으로 도입하려고 한다. 최소한 시도라도 하려 한다”고 덧붙였다.
하지만 중국에는 이런 공격들에 반대할 수 있는 자유가 적다. 휴먼 라이츠 워치 Human Rights Watch의 중국 선임 연구원 마야 왕은 “이렇게 촘촘하게 사회 감시망을 구축하는 건 사람들이 정부를 상대로 행동을 계획하거나 개혁을 요구할 수 없게끔 하려는 의도”라고 지적했다. 그 어느 때보다 많은 인공지능 카메라가 설치된 상황에서, 감시자들은 도대체 누가 감시를 해야 할까?
번역 위미정
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
