전체메뉴

검색
팝업창 닫기
이메일보내기

왜곡된 숫자의 폭격, 인류를 위협하다

■대량살상수학무기

캐시 오닐 지음, 흐름출판 펴냄

'숫자는 거짓말 않는다' 명제 아래

전세계 점령한 데이터·알고리즘

2008년 글로벌 금융위기 촉발

비인간적 파괴도 서슴지 않아

인종·富·문화 향한 편견 코드화

기득권 유지 도구로 전락했지만

인간만의 '도덕적 상상력' 발휘

약자 돕는 시스템 구축에 활용을





영국의 거장 켄 로치 감독의 ‘나, 다니엘 블레이크’를 본 사람이라면 관료화된 복지시스템이 아날로그적 인간을 시스템 부적응자로 전락시키고 빈곤의 늪에 빠뜨리는 과정을 생생하게 목격했을 것이다. 그나마 이 영화에선 그를 도우려는 ‘사람’이라도 등장한다. 만약 모든 시스템이 블랙박스 안에 들어가 그 작동원리조차 알 수 없게 된다면, 그저 인간은 그 시스템의 간택을 받기 위해 발버둥 치는 일 외엔 아무 것도 할 수 없게 될 것이다.

금융, 의료, 교육 등 사회 각 분야에 데이터가 일종의 종교처럼 부상한 이래로 ‘숫자는 거짓말을 하지 않는다’ ‘데이터는 민주적이다’ 등의 명제는 당연한 듯 받아들여졌다. 그러나 ‘대량살상 수학무기’의 저자이자 미국의 수학자인 캐시 오닐은 데이터와 데이터를 재료로 움직이는 알고리즘을, 불평등을 확산하고 민주주의를 위협하는 ‘악의 축’으로 지목한다. ‘대량살상 수학무기’(Weapons of Math Destruction, WMD)란 말은 핵폭탄, 생물·화학무기 등을 일컫는 용어이자 부시 정부 시절 이라크전의 명분이었던 ‘대량살상무기’(Weapons of Mass Destruction, WMD)를 살짝 비튼 것인데 영어로는 약자까지 같으니 절묘하다.



이 책은 지난해 미국 출간 당시 저자의 이력만으로도 크게 주목받았다. 캐시 오닐은 하버드대에서 학위를 받고 매사추세츠공대(MIT)에서 박사후과정을 거쳐 바너드 칼리지 수학과 종신교수가 된 그야말로 탄탄대로의 수학자였다. 하지만 수학을 현실 세계에서 활용해보겠다며 2007년 헤지펀드의 퀀트(수학모형 기반의 계량분석 기법을 활용하는 금융분석가)가 됐다. 데이터과학자로서 알고리즘을 개발하고 활용해 천문학적 규모의 자금을 거래하던 그는 2008년 서브 프라임 모기지 사태를 겪으며 수학과 금융의 결탁이 불러낸 파괴적 힘에 환멸을 느꼈고 결국 월스트리트를 떠났다. 대량살상무기만큼이나 파괴적인 수학의 실상을 경험한 그는 지금 ‘월스트리트를 점령하라!’ 운동의 하위조직인 대안 금융그룹을 이끌면서 ‘대량살상 수학무기’의 위험성을 측정하고 알리는 일을 하고 있다.

내부고발자를 자처한 저자는 대학 평가, 신용평가, 맞춤형 온라인 광고, 범죄자 양형 결정, 기업의 인재 채용(인·적성검사), 자동차보험에 이르기까지, 확장성과 효율성을 무기로 모든 영역에 확산되고 있는 빅데이터 기반 알고리즘 기술들이 실제로는 얼마나 비민주적이며 심각한 편견의 산물인지를 생생하게 밝히고 있다. 책이 그리는 잿빛 묵시록은 미래가 아닌 현재다. 실례로 WMD는 개발자가 아니면 도저히 평가요소를 파악할 수 없는 알고리즘을 바탕으로 교사들의 능력을 평가하고 알고리즘이 선정한 평균 이하 ‘나쁜 교사들’을 교단에서 밀어냈다. 문제는 그 기준이 무엇인지 누구도 검증할 수 없다는 것. 고객의 이동 정보나 날씨, 구매 정보 등에 입각해 노동자의 근무시간을 유연하게 짠다는 명목 아래, 상점이나 카페에서 밤 늦게까지 일한 종업원이 동 트기 전 가게 문을 열게 하는 ‘클로프닝’은 알고리즘이 ‘노예노동’을 정당화한 대표 사례다. 클로프닝의 문제는 과로만이 아니다. 클로프닝은 주로 저임금 단순노동에서 나타나는데 저소득층일수록 불규칙한 생활환경에 내몰리면서 더 나은 일자리를 얻기 위한 교육이나 훈련을 받을 시간과 기회조차 얻을 수 없다는 점이다. 데이터가 빈곤의 악순환을 초래하는 사례는 또 있다. 저소득층은 신용평가 시스템에 따라 제1금융권 대출을 받을 수 없고 일자리를 구할 때조차 서류심사에서 걸러지는 경우가 많다. 또 맞춤형 온라인 광고를 통해 고금리 대출 상품에 노출되고 대출 상품 이용으로 신용이 더욱 악화되는 피해의 악순환이 이어진다.



우리는 알고리즘 역시 인간의 발명품이라는 사실을 알면서도 그것이 인종과 부, 민족, 문화와 얽힌 편견을 코드화하고 있다는 점은 직시하지 않는다. 저소득층이나 소수자·이민자 등 흙수저들에게 언제나 불리하게 적용되는 경찰의 범죄퇴치 모형, 구직자들의 인성과 적성으로 채용 여부를 판가름하는 취업시스템, 임금 삭감에 악용되는 건강검진, 선거 때 확증편향을 부추기는 ‘마이크로 타기팅’ 기법까지, 각종 편견이 빅데이터와 알고리즘이라는 허울로 둔갑해 우리를 제단하고 낙인 찍으며, 집단화시키고 있는데도 말이다.

저자는 이 책을 통해 우리의 동참을 호소하고 있다. 물론 빅데이터를 없애고 알고리즘을 파괴하는 ‘러다이트’를 주장하는 것이 아니다. 타자의 약점을 공격해 배제하는 것이 아니라 오히려 그들을 도와줌으로써 함께 사는 사회로 구조를 변경하는데 빅데이터와 알고리즘이 활용될 수 있다는 것이다. “오직 인간만이 시스템에 공정성을 주입할 수 있다”는 저자의 말이 깊은 울림을 준다.

“데이터 처리 과정은 과거를 코드화할 뿐, 미래를 창조하지 않는다. 미래를 창조하려면 도덕적 상상력이 필요하다. 그런 능력은 오직 인간만이 가지고 있다. 우리는 더 나은 가치를 알고리즘에 명백히 포함시키고, 우리의 윤리적 지표를 따르는 빅데이터 모형을 창조해야 한다. 그렇게 하려면 가끔은 이익보다 공정성을 우선시해야 한다.”

숫자로 남을 것인가, 인간으로 남을 것인가. 그 선택은 우리에게 달렸다. 1만6,000원

/서은영기자 supia927@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
주소 : 서울특별시 종로구 율곡로 6 트윈트리타워 B동 14~16층 대표전화 : 02) 724-8600
상호 : 서울경제신문사업자번호 : 208-81-10310대표자 : 손동영등록번호 : 서울 가 00224등록일자 : 1988.05.13
인터넷신문 등록번호 : 서울 아04065 등록일자 : 2016.04.26발행일자 : 2016.04.01발행 ·편집인 : 손동영청소년보호책임자 : 신한수
서울경제의 모든 콘텐트는 저작권법의 보호를 받는 바, 무단 전재·복사·배포 등은 법적 제재를 받을 수 있습니다.
Copyright ⓒ Sedaily, All right reserved

서울경제를 팔로우하세요!

서울경제신문

텔레그램 뉴스채널

서울경제 1q60