현대 인공지능 분야에서 모든 길은 캐나다 대학들과 긴밀한 관계가 있는 3명의 연구원으로 통하는 듯하다. 첫 번째 인물은 70세 영국인 제프리 힌턴 Geoffrey Hinton이다. 그는 토론토 대학교 교수로 활동하며, 인공지능과 동의어가 된 딥 러닝이라는 하위 분야를 개척했다. 두 번째 인물은 57세 프랑스인 얀 레쿤 Yann LeCun이다. 그는 1980년대 힌턴의 연구소에서 근무했으며, 현재는 뉴욕대에서 교편을 잡고 있다. 세 번째 인물은 54세 요수아 벤지오 Yoshua Bengio다. 파리에서 태어나 몬트리올에서 자란 그는 현재 몬트리올 대학 교수로 재임 중이다. 절친인 세 사람은 서로 협업을 하고 있다. 이들은 인공지능 분야에서 ’캐나다 마피아‘라 불리고 있다.
그러던 중 2013년 구글이 힌턴을, 페이스북이 레쿤을 영입했다. 두 사람 모두 교수직을 유지하면서 대학에서 수업을 병행하고 있다. 현재는 몬트리올 대학에서 세계 최고 인공지능 프로그램 중 하나를 개발한 벤지오만이 순수 학계의 최종 보루로 남아있다. 천성적으로 기업가 기질이 없는 그는 겸손하고, 겸허하며, 예의가 바른 사람이다. 컴퓨터 화면 앞에서 많은 시간을 보내서인지, 그의 등은 약간 굽어 있다. 몇몇 기업들에 자문을 해줄 때마다 그는 늘상 스카우트 제안을 받아왔다. 하지만 열정에 찬 그는 학술 프로젝트에 전념하며, 수익 창출에는 별다른 관심을 보이지 않았다. 벤지오의 친구이자 인공지능 스타트업 이미지아 Imagia의 창업자인 알렉산드레 레 부틸리에 Alexandre Le Bouthillier는 “그의 열정이 얼마나 큰지, 가치관이 얼마나 똑바로 정립돼 있는지 알아야 한다”고 강조하며 “기술 분야의 일부 사람들은 인간적 측면을 잊곤 하지만 요수아는 다르다. 그는 과학적 발전을 통해 진정하게 사회에 공헌하길 바라고 있다”고 말했다. 콜로라도 볼더 대학(University of Colorado at Boulder) 인공지능 교수인 마이클 모저 Michael Mozer는 좀 더 직설적으로 “요수아는 팔려가지 않았다”고 표현했다.
그러나 ’팔려가지 않았던‘ 이면에는 외로운 과정이 있었다. 아마존과 페이스북, 구글, 마이크로소프트 같은 거물 테크 기업들은 혁신적인 스타트업들을 모조리 인수했고, 인공지능 분야의 최고 인재를 확보하기 위해 대학 인재들을 빼내갔다. 워싱턴 대학교 인공지능 교수 페드로 도밍고스 Pedro Domingos는 매년 동료 교수들을 통해 포스트 닥터 연구원을 희망하는 학생들을 찾고 있다. 그는 최근 벤지오에게 연락했을 때 “학생들이 졸업하기도 전에 다 나간다”는 말을 들었다. 이런 상황에 질린 벤지오는 인재 유출이 차단되길 바랐다. 그는 이를 위해선 빅테크가 가진 강력한 자본주의의 힘을 활용해야 한다고 확신했다.
2015년 9월 어느 날 따뜻한 오후, 벤지오와 그의 친한 동료 4명은 부틸리에의 몬트리올 자택에서 만났다. 이 모임은 벤지오가 몇 년 전 공동 설립한 기술이전 회사의 전략을 짜기 위해 이뤄진 회의였다. 그러나 벤지오는 인공지능의 미래에 대한 심각한 우려를 갖고 있었다. 그는 동시에 마음에 품고 있던 몇 가지 질문들을 제기할 기회를 보고 있었다. ‘스타트업과 대학의 광범위한 생태계, 더 나아가 사회 전체에 피해 대신 도움을 주는 방향으로 사업을 할 순 없을까? 만약 가능하다면, 빅테크가 지배하는 세계에서 그 사업을 완수할 수 있을까?’
벤지오는 특히 장 프랑수아 가녜 Jean-Fran?ois Gagn?의 의견을 듣고 싶었다. 그는 벤지오보다 열 다섯살이나 어리지만, 에너지 넘치는 연쇄 창업가(serial entrepreneur)/*역주: 새로운 기업을 끊임없이 설립하는 기업가/다. 가녜는 자신이 공동창업한 스타트업을 JDA소프트웨어로 알려져있는 기업에 매각했다. 그는 그곳에서 3년 더 일한 뒤 회사를 떠나 캐나다 벤처 캐피털 리얼 벤처스 Real Ventures 초빙 기업가(Entrepreneur in Residence) *역주: 벤처 캐피탈과 공조해 투자처 발굴 및 진단을 지원하는 역할을 한다로 활동하고 있다. 벤지오는 가녜의 후속 프로젝트에 깊은 관심을 보였다. 그 프로젝트가 자신의 개인적 목표와 맞닿는 지점이 있었기 때문이었다. 가녜 역시 빅테크가 지배하는 시장에서 어떻게 생존할 것인지 치열하게 고민했다. 3시간 여의 회의가 끝날 무렵 해가 지기 시작했고, 가녜는 벤지오와 다른 참석자들에게 “좋다, 사업 계획을 구체화 시켜보겠다”고 말했다.
그해 겨울 가녜와 그의 동료 니컬러스 차파도스 Nicolas Chapados는 몬트리올 대학교 내 벤지오의 작은 연구실을 방문했다. 사무실에는 교과서, 종이 뭉치, 고양이가 할퀴고 지나간 듯한 방정식들이 잔뜩 쓰인 화이트 보드가 놓여 있었다. 가녜는 리얼 벤처스 덕분에 사업 계획을 구상했다고 발표했다. 그는 인공지능 기술을 개발할 스타트업의 공동 설립을 제안했다. 스스로 기술을 개발할 여력이 없고, 빅테크보단 일반 벤더업체들에게 관심을 살 만한 스타트업이지만 자원이 부족한 조직을 돕는 것이 목적이었다. 이 신생 벤처기업의 주요 사업 포인트는 지구상에서 가장 재능 있는 인재 풀을 갖추는 것이다. 직원들은 다른 명문 대학 출신의 벤지오 연구원들이다. 급여는 벤지오 연구실에서 지급한다. 직원들은 매달 몇 시간 정도를 할애해 회사 일을 하면서, 동시에 학교에서 연구 업무도 병행하고 있다. 이런 방식으로 회사는 큰 돈을 들이지 않고 최고 인재를 확보할 수 있다. 동시에 대학들은 연구원들을 계속 지킬 수 있다. 중소 고객사들 또한 자본력이 풍부한 라이벌 기업들과 경쟁할 수 있는 기회를 얻을 수 있다. 빅테크 기업들 정도를 제외하곤 모두가 윈윈하는 구조인 셈이다.
구글 CEO 순다르 피차이 Sundar Pichai는 올해 초 “인공지능은 인류가 개발 중인 가장 중요한 기술 중 하나다. 아마 전기나 불보다 더 중요할 것”이라고 선언했다. (벤지오가 위협적으로 느끼는) 구글 등 빅테크 기업들은 인공지능을 민주화하겠다고 나섰다. 일반 소비자와 모든 기업들에게 합리적인 가격에 인공지능 서비스를 제공하고, 더 나은 세상을 만들기 위해 활용하겠다는 것이다. 구글 클라우드의 수석 과학자 페이페이 리 Fei-Fei Li는 필자와의 인터뷰에서 “인공지능은 세상에 엄청난 변화를 불러올 것이다. 일과 삶, 사회를 더 낫게 만들 것”이라고 예측했다.
벤지오와 가녜가 논의를 시작할 때만 해도, 기술 대기업들이 아직 인공지능을 둘러싼 소란스러운 윤리적 문제를 겪기 전이었다. 논란이 된 군사 및 예측적 범죄대응용 인공지능 판매와 인공지능 기반 상품에 내재된 인종 및 기타 편견 이슈들이 그것이었다. 그럼에도 업계 내부자들은 대기업들이 인공지능을 활용해 막강한 권력과 부를 구축할 것이라는 점을 분명히 알고 있었다. 이 예측에는 ‘인공지능은 다른 소프트웨어와 다르다’는 전제가 들어있다. 우선, 전 세계적으로 봐도 인공지능 전문가는 상대적으로 적은 편이다. 인공지능 전문가들이 쉽게 억대 연봉을 받을 수 있다는 의미이다. 동시에 자원이 가장 풍부한 대기업들만이 규모 있게 인공지능 전문가 팀을 꾸릴 수 있다는 뜻이기도 하다. 둘째, 인공지능은 전통적인 소프트웨어보다 더 많은 컴퓨팅 자원을 필요로 한다. 즉, 고비용과 고품질 데이터가 요구된다. 이는 돈과 데이터에 거의 무제한 접근할 수 있는 기술 대기업이 아니고선 불가능한 일이다.
벤지오는 “요즘의 인공지능 분야 실정이 이렇다. 전문성과 부, 권력이 소수 대기업에 집중되는 경향이 강화되고 있다”고 지적했다. 더 풍부한 자원으로 더 뛰어난 연구원들을 확보하면, 더 나은 혁신으로 이어진다. 결과적으로 매출은 증가하고, 이를 기반으로 더 많은 자원을 확보할 수 있다. 그는 이에 대해 “자급자족을 통해 덩치를 키우는 구조”라고 부연 설명했다.
벤지오는 인공지능 분야를 접했던 초창기부터 빅테크의 부상을 예상했다. 1970년대 몬트리올에서 자란 그는 필립 K 딕 Philip K. Dick의 소설 ’안드로이드는 전기양을 꿈꾸는가?(Do Androids Dream of Electric Sheep?)‘ 같은 공상 과학소설에 심취했다. 초 거대기업이 만든 지능 로봇들이 폭동을 일으키는 것이 이 소설의 내용이다. 벤지오는 대학에서 컴퓨터 공학을 전공했다. 그는 맥길 McGill 대학교에서 석사 과정 도중, 제프리 힌턴의 논문을 접하고 충격에 휩싸이기도 했다. 어렸을 때부터 좋아했던 공상과학 이야기가 다시 재현되는 내용이었기 때문이었다. 그는 “이게 바로 내가 원하던 것”이라는 느낌을 받았다고 당시를 회고했다.
시간이 흘러 벤지오는 힌턴, 레쿤과 함께 딥 러닝 분야에서 주요 인물로 부상했다. 딥 러닝에는 신경망이라 불리는 컴퓨터 모델이 탑재된다. 하지만 그들의 연구는 잘못된 시작과 혼란스러운 야망으로 삐걱거렸다. 딥 러닝은 이론상 매혹적이었지만, 제대로 구현한 인물은 없었다. 콜로라도 대학교 교수 모저는 “수 년 간, 기계 학습 관련 콘퍼런스에서 신경망은 관심 밖의 사안이었다. 하지만 요수아는 끝까지 신경망을 파고들었다”고 말했다. 그는 이어 “당시 나는 그가 불쌍하게도 제 정신이 아니라고 생각했다”고 털어놓기도 했다.
2000년대 후반부터 연구자들은 왜 딥 러닝이 잘 작동하지 않는지 조금씩 이해하기 시작했다. 신경망을 높은 수준으로 훈련시키려면, 생각보다 훨씬 더 강력한 컴퓨팅 기술이 필요했다. 게다가 신경망이 학습을 하려면 고품질의 디지털 정보가 요구된다. 소비자가 나타나기 전에는 인터넷 입장에서 학습 대상도 충분치 않았다. 그러나 2000년대 후반이 되자 모든 상황이 바뀌었다. 곧 기술 대기업들이 벤지오와 동료들의 기술을 적용해 상업화의 이정표(언어 번역, 연설문 이해, 얼굴 인식)를 구축했다.
당시 벤지오의 형 사미 Samy도 인공지능 연구원으로 구글에서 근무 중이었다. 벤지오는 형과 동료들을 따라 실리콘밸리로 가라는 권유를 받기도 했다. 하지만 그는 2016년 10월 가녜, 차파도스, 그리고 리얼 벤처스와 함께 스타트업 엘리먼트 AI를 설립했다. 이 회사에 투자한 DCVC의 대표 파트너 맷 오코 Matt Ocko는 “요수아는 지난 5년 간 수없이 많은 제안들을 받았다. 하지만 엘리먼트 AI 외에 그 어떤 인공지능 플랫폼에 대해서도 구체적인 소유권을 갖지 않았다. 대신 그는 자신의 명예를 지켰다”고 말했다.
엘리먼트는 고객 유치를 위해, 자사 연구원들의 스타성과 신뢰성 높은 자금 지원을 무기로 삼았다. 빅테크보다 더 개인 맞춤화된 서비스를 제공하겠다는 약속을 내걸기도 했다. 하지만 동시에 회사 최고경영진은 다른 각도에서 사업에 접근했다. 구글이 인공지능을 군용으로 판매하기 위해 경쟁하고, 페이스북이 ‘악당 연기자들’을 초대해 미 대선에 영향을 주고/*역주: 러시아가 가짜 계정 470개를 만들어 선거에 개입했다는 의혹/, 아마존이 전 세계 경제를 잠식하는 사이, 엘리먼트는 포식자가 아닌 윤리적인 인공지능 조직으로서 스스로를 부각할 수 있었다.
올해 봄 필자는 몬트리올 플래토 Plateau 지구의 엘리먼트 본사를 방문했다. 직원 수가 300명으로 대폭 늘어나 있었다. 사무실 벽에 붙어있는 화려한 포스트잇 노트들을 보니 업무량도 그만큼 늘어난 것 같았다. 한 회의실에서 10여 명의 ‘엘리먼털’(직원들은 스스로를 이렇게 부른다)들이 개발 중인 상품의 데모 영상을 보고 있었다. 개발 중인 이 상품을 통하면, 사용자는 구글과 유사한 화면에 다음과 같은 질문들을 입력할 수 있다. ‘우리 회사 고용 전망은?’ 그렇게 질문을 입력하면 최신 업데이트된 답변을 받을 수 있다. 인공지능은 기존 정보에만 근거하지 않고, 고객들의 사업목표를 이해한 후 미래를 예측해 답을 해준다. 급성장하는 여느 스타트업들과 마찬가지로, 필자가 만난 직원들은 에너지가 넘치면서도 동시에 완전히 녹초가 된 모습이었다.
엘리먼트의 고질적인 과제는 고품질 데이터의 부족이다. 인공지능 모델을 훈련하는 가장 간단한 방법은 제대로 분류된 예시들을 충분히 제공하는 것이다. 예컨대 수 천 개의 고양이 이미지나 번역된 텍스트들이 여기에 해당한다. 빅테크 기업들은 소비자 관련 데이터를 풍부하게 갖고 있기 때문에, 대규모 소비자 상품을 개발하는 경쟁에서 앞서 나갈 수 있다. 반면 일반 기업들과 정부, 다른 기관들은 상당한 개인 정보를 보유하고 있다. 어떤 회사가 구글 이메일을 사용하고 아마존의 클라우드 컴퓨팅을 사용한다고 해도, 기기 오작동과 판매 트렌드, 처리 시간 같은 자사 내부의 데이터베이스를 구글과 아마존에 넘겨주지는 않는다. 바로 이 지점에서 엘리먼트는 가능성을 확인했다. 회사는 여러 기업들의 (예컨대) 상품 이미지 관련 데이터베이스에 접근할 수 있다. 그리고 고객 동의를 받아 해당 정보를 전부 활용, 상품 추천 기능을 향상시킬 수 있다. 빅테크 기업들 또한 인공지능 상품과 서비스를 기업체를 대상으로 판매하고 있다. IBM은 이 분야에 집중하고 있다. 하지만 아직 그 누구도 이 시장에 깃발을 꽂지는 못했다. 엘리먼트는 해당 기관들을 고객으로 확보할 수 있다면, 기업 데이터 분야에서 우위를 확보할 수 있다고 자신하고 있다. 기술 대기업들이 소비자 상품 부문에서 갖는 강점과 동등한 수준이 될 것이라 예측하고 있다.
그러나 아직 그 지점까지는 도달하지 못했다. 엘리먼트는 포트 오브 몬트리올 Port of Montreal과 라디오캐나다 Radio Canada등 유명한 캐나다 기업들 몇 곳과 계약을 맺었고, 전 세계 1,000개 대기업 중 10곳 이상을 고객으로 확보했다. 하지만 회사 경영진은 정확한 고객 수와 캐나다 이외 다른 국가의 기업 고객들은 공개하지 않고 있다. 상품 개발 역시 아직 초기 단계에 머물러 있다. 질문-응답형 상품을 시범 테스트 중인 프로젝트 매니저 프랑수아 마예 Fran?ois Maillet(그의 모국어는 영어가 아니다)는 인공지능에 ‘직원들이 특정 상품 개발에 얼마만큼의 시간을 들이는지 알려달라’고 질문을 했다. 그는 ‘how many time’이라는 표현을 썼다./*역주: 문법 오류, time에는 many가 아닌 much를 써야 한다/ 인공지능이 머뭇거리자 ‘many’를 ‘much’ 정정해 질문을 다시 했다. 마예는 아직 상품 개발 단계에서 갈 길이 멀다는 점을 인정하고 있다. 하지만 그는 “회사가 좀 더 심오한 전략적 질문들도 처리할 수 있을 정도로 인공지능을 발전시키길 원하고 있다”고 밝혔다. 그는 가령 ‘우리가 무엇을 해야 하는가?’와 같은 사례를 들었다. 이는 전략을 넘어 거의 기도로 들렸다.
인공지능의 군사적 사용에 대한 기술기업들의 입장은 윤리성에 대한 리트머스 시험지가 되었다. 구글이 미 국방부에 인공지능을 제공하기로 결정하자, 직원들이 반발한 사건이 좋은 사례다. 벤지오와 공동 창업자들은 당초 ’공격적 군사 목적을 위해선 인공지능을 절대 개발하지 않겠다‘고 약속했다. 그런데 올해 초 연구대학 성격의 한국과학기술원(Korea Advanced Institute of Science and TechnologyㆍKAIST)이 엘리먼트의 주요 투자자인 한국 대기업 한화의 방산사업부와 협력해 군사 시스템을 개발하겠다고 발표했다. 엘리먼트와 한화의 관계에도 불구하고, 벤지오는 KAIST를 보이콧한다는 공개서한에 서명했다. 그는 이 서한에서 ’유의미한 인간 통제가 결여된 자동화 무기를 개발하지 않겠다‘고 약속했다. 가녜는 좀 더 신중하게 한화측에 서한을 보내, 엘리먼트는 자동화 무기를 개발하는 기업들과 협업하지 않겠다고 밝혔다. 가녜와 회사 연구진은 곧바로 확답을 받아냈다. KAIST와 한화는 그렇게 하지 않겠다고 약속했다.
자동화 무기는 인공지능과 관련한 유일한 윤리적 과제는 아니며, 가장 심각한 문제도 아니다. 인공지능의 사회적 함의를 연구 중인 뉴욕대 케이트 크로퍼드 Kate Crawford 교수는 미래의 실존적 위협으로 지목되는 온갖 ’골칫거리들‘ 때문에 현재 당면한 문제가 경시될 수도 있다고 지적했다. 그는 “성 차별주의, 인종 차별주의, 기타 여러 형태의 차별이 기계학습 알고리즘에 이식되고 있다”고 비판했다. 인공지능 모델은 엔지니어들이 제공하는 데이터를 기반으로 학습을 한다. 즉, 해당 데이터에 들어있는 편견이 인공지능 모델에 그대로 반영된다는 뜻이다.
트위터는 사람들이 말하는 방식을 파악하기 위해 마이크로소프트가 개발한 인공지능 챗봇 테이Tay를 운영했다. 테이는 ‘히틀러가 옳았다’ 같은 인종차별주의적 발언을 쏟아내기 시작했다. 마이크로소프트는 곧바로 사과한 후 테이의 운영을 중단했다. 아울러 데이터 편견을 해소하기 위해 작업 중이라고 밝혔다. 구글의 인공지능 기능은 이용자들의 셀카 사진을 활용, 예술 작품 속 도플갱어를 찾아 준다. 그런데 보통 아프리카계 미국인의 셀카는 노예를 묘사하는 전형적인 이미지, 아시아계 미국인은 눈초리가 치켜 올라간 게이샤 이미지와 매칭되곤 한다. 서구 예술에 대한 지나친 편중 탓일 것이다. 인도계 미국 여성인 필자가 이 앱을 사용해보았다. 구글은 필자의 도플갱어로 얼굴이 까무잡잡하고, 누군가에 의해 포위된 듯한 표정의 북미 원주민 족장 이미지를 보여주었다. 이에 필자 역시 무언가에 포위된 느낌을 받았는데, 그런 점에선 구글이 일부 맞았다고도 할 수 있겠다(회사 대변인은 이에 대해 사과했고, 구글이 인공지능의 “불공정한 편견을 줄이기 위해 노력하고 있다”고 말했다).
이런 문제들은 전 세계에 전반적으로 펴져있는 편견에 기인하고 있다. 하지만 설상가상으로, 인공지능 분야는 백인과 아시아인 남성들이 장악한 좀 더 광범위한 컴퓨터 과학 분야보다 훨씬 더 다양성이 떨어지는 것으로 알려졌다. 마이크로소프트 등에서 근무한 에디오피아계 미국인 여성 연구원 팀닛 게브루 Timnit Gebru는 “이 분야의 지나친 단일성이 이런 심각한 문제들을 낳고 있다”고 지적했다. 그녀는 이어 “그들은 거품 속에 사로잡혀 있으며, 스스로 진보적이고 깨어있다고 생각한다. 하지만 실제론 본인들이 이 문제를 만드는 데 일조하고 있다는 사실은 보지 못한다”고 비판했다.
엘리먼트의 직원 중 여성 비율은 33%이다. 임원은 35%, 기술직은 23%가 여성이다. 다수의 빅테크 기업들과 비교하면 높은 비율이다. 직원들은 25개 이상 국가 출신들로 구성되어 있다. 필자는 세네갈 출신의 한 연구원을 만났다. 그는 풀브라이트 장학금을 받아 미국에서 유학하고도 미국 체류 비자를 받지 못한 게 회사에 취직한 이유 중 하나라고 말했다. 엘리먼트는 직원들을 인종별로 통계를 내진 않았다. 그러나 필자가 회사 방문 때 보기에는 대체적으로 백인과 아시아인 직원들이 압도적으로 많았고, 특히 고위직일수록 그 성향이 두드러졌다. 사업운영 수석 부사장 안네 마텔 Anne Martel은 엘리먼트의 최고임원 7명 중 유일한 여성이다. 업계 솔루션 담당 수석 부사장 오마르 달라 Omar Dhalla는 유일한 유색인종이다. 회사와 연계된 24명의 학계 연구원 중 3명만이 여성이다. 벤지오 연구실 밀라 MILA 웹사이트에 등록된 100명의 학생 중 여성은 7명이다(벤지오는 해당 웹사이트는 업데이트 되지 않았고, 현재 성비를 알지 못한다고 설명했다). 게브루는 벤지오와 친한 사이지만, 비판에는 예외가 없었다. 그녀는 “그에게 ’자동화 무기에 반대하고 독립적으로 남길 원한다‘는 내용의 서한을 작성하라고 말하고 있다. 하지만 그는 인공지능을 만드는 데 있어 대체로 백인이나 아시아인 남성들을 전 세계에 공급하고 있다”고 지적했다. 그녀는 이어 “당장 본인 연구실 문제도 해결 못하면서 전 세계 인종·성비 불균형에 대해 생각을 할 수 있을까?”라고 반문했다.
벤지오는 이 상황에 대해 “부끄러움”을 느끼고 있으며, 문제 해결을 위해 노력 중이라고 말했다. 그는 그 노력 중 일부분으로 사회적 소수자 학생들의 고용과 지원 자금을 늘리고 있다. 한편 엘리먼트는 다양성과 포용을 최우선 순위로 놓고, 인사 문제를 담당할 안네 메차이 Anne Mezei를 부사장으로 신규 영입했다. 자사 상품의 잠재적인 윤리 문제를 해결하기 위해, 엘리먼트는 개발자들과 협업할 윤리학자들을 고용하고 있다. 또한 런던에 ’착한 AI(AI for Good)‘ 연구소를 개설했다. 연구소장은 구글 딥마인드 Google DeepMind의 연구원 출신 줄리엔 코네비스 Julien Cornebise이다. 엘리먼트의 런던 연구원들은 무급이나 유급으로 근무하면서, 비영리단체와 정부 기관 및 인공지능 공공 프로젝트 관련 단체들과 협업을 진행하고 있다.
그럼에도 윤리적 문제는 여전히 남아있다. 회사는 초기 연구 단계에서 자사 데이터를 기반으로 일부 상품을 개발하고 있다. 예를 들어, 사내에서 공유되는 내부 문서를 일부 활용해 질문-응답형 툴을 학습시키고 있다. 사업운영 담당 임원 마텔은 필자에게 다음과 같이 밝혔다. “경영진은 윤리적 관점에서 인공지능을 얼굴 인식에 어떻게 활용할지 아직 확신이 없다. 따라서 직원들을 대상으로 해당 기능에 대한 실험을 기획하고 있다. 실험에선 직원들의 동의 하에 그들의 얼굴을 캡처할 비디오 카메라를 설치한다. 이는 인공지능 훈련에 활용된다. 임원들은 직원들을 상대로 해당 기획안에 대해 어떻게 생각하는지 설문 조사를 실시할 것이다. 이를 통해 윤리적 차원에 대한 이해도를 높이고자 한다. 우리는 자체 실험을 통해 이 문제를 파악하길 바라고 있다.” 물론 모든 얼굴인식 모델은 적어도 처음에는 광범위한 인구를 대표하는 얼굴들을 기반으로 구축할 수 없다. 마텔은 경영진도 이 점을 인지하고 있다고 설명했다. “적절한 수준의 대표성을 갖지 못하는 점에 대해 진지하게 우려하고 있으며, 이 문제를 해결할 솔루션을 찾고 있다”.
엘리먼트의 상품은 경영진의 질문(우리가 무엇을 해야 하는가?)에 답을 하는 것을 목표로 한다. 그런데 그 질문 자체에도 이미 수많은 윤리적 난제들이 산적해있다. 친기업적 인공지능이 수익 극대화를 위한 모든 종류의 행위를 추천하는 것에 대해 그 누구도 비난할 순 없다. 하지만 그런 결정을 어떻게 내려야 할까? 사회적 비용은 감당할 만한 수준인가? 누가 결정하는가? 벤지오가 인정했듯, 더 많은 조직에서 인공지능을 사용할수록 새로운 일자리도 창출될 것이지만, 수 백 만명이 일자리를 잃을 가능성이 더 높다. 초기에 벤지오와 가녜는 소규모 단체를 타깃으로 서비스를 판매할 계획이었다. 그러나 이후 전 세계 2,000개 대기업에 초점을 맞추는 것으로 선회했다. 엘리먼트에겐 대규모 데이터가 필요한데, 이는 소규모 조직에서 얻을 수 없다는 사실이 드러났기 때문이다. 회사는 특히 금융 및 공급망 기업에 집중하고 있다. 해당 분야 대기업들이 힘없는 약자가 아니라는 점은 분명하다. 엘리먼트의 현재 계획은 인공지능의 장점을 우선 대기업에 제공하는 것이다. 지금까지 이 계획은 인공지능의 혜택을 대중들과 나누기보단, 이미 강력한 힘을 가진 기업들의 이익을 불려주는 데 더 적합한 것처럼 보인다.
벤지오는 과학자들의 역할은 인공지능에 대한 연구를 꾸준히 이어가는 것이라고 생각한다. 아울러 정부가 인공지능 부문에 대한 규제를 더 강화해야 한다고 주장한다. 또한 부의 공정한 배분과 교육 및 사회안전망에 대한 투자를 강조한다. 이는 인공지능의 불가결한 부정적 효과를 완화하기 위해서다. 물론 이런 주장은 정부가 시민들의 이익을 최우선으로 다룬다는 전제에 기반하고 있다. 그런데 미국 정부는 부자 감세를 추진 중이고, 중국 정부(인공지능 분야 투자를 전 세계에서 가장 많이 하고 있다)는 딥 러닝을 활용해 시민들을 감시하고 있다. 워싱턴 대학교 도밍고스 교수는 “요수아는 인공지능이 윤리적일 수 있고, 그의 회사도 윤리적인 인공지능 회사가 될 수 있다고 믿고 있다”며 “하지만 솔직히 말해 그는 다소 순진하다. 실제로 많은 기술 전문가들은 조금 순진한 편이다. 그들은 유토피아적 시각을 갖고 있다”고 말했다.
그러나 벤지오는 이 같은 성격 규정을 거부한다. 그는 “과학자로서 나는 시민 사회와 정부 활동에 참여할 책임이 있다고 생각한다. 우리가 옳다고 믿는 방향으로 사람들의 생각과 마음을 유도하는 것이 그 목적”이라고 강조한다.
올해 봄 어느 청명한 날 아침, 엘리먼트 직원들이 협업적 소프트웨어 설계를 주제로 한 야외 연수를 위해 한 교회 건물에 모였다. 행사장으로 개조된 천장이 높은 교회 건물이었다. 참가자들은 원형 테이블에 그룹을 지어 앉았다. 그리고 인공지능에 대한 기본 사항을 가르칠 수 있는 게임을 만들라는 미션을 받았다. 필자는 6명 정도의 그룹원들과 함께 앉았다. 그들은 소피아 Sophia라는 인공지능 게임 개발을 결정한 상황이었다. 폭동을 일으킨 인공지능 로봇과 맞서 싸워 포로로 잡는 게임이었다. 당연히 이 게임은 인공지능 기술을 활용해야 한다. 인사담당 부사장 메차이도 같은 테이블에 참석했다. 그녀는 “우리 회사에 여성이 더 필요하니 인공지능 이름이 소피아라는 점은 마음에 든다”라고 끼어들더니 “하지만 싸우는 것은 마음에 들지 않는다”라고 말했다. 주위에서 웅성거리며 동의의 표시를 보냈다. 한 수석 어시스턴트는 “이 게임의 목표는 소피아의 생각을 바꾸는 것이다. 따라서 세상에도 도움이 될 것”이라고 말했다. 회사 취지에 부합하는 성격의 게임이면서, 엘리먼트의 자아상과도 잘 맞는 내용이었다. 한 직원은 필자에게 “우리 회사에선 스카이넷 Skynet(영화 터미네이터 시리즈물에 등장하는 반동적 인공지능 시스템)에 대해 말하는 것이 금지돼 있다. 누구라도 실수로 스카이넷을 언급하면 정해진 병에 1달러를 넣어야 한다”고 설명했다. 다른 직원은 한껏 쾌활한 목소리로 “우리들은 긍정적이고 낙관적이어야 한다”고 덧붙였다.
이후 필자는 벤지오가 운영하는 몬트리올 대학 연구소를 방문했다. 컴퓨터 모니터와 책들로 가득차 있는 교도소 분위기가 나는 형광등 조명의 방들이 보였다. 한 방에서 대여섯명 정도의 젊은 남성들이 인공지능 모델을 연구하고, 수학과 관련한 농담을 나누고, 커리어에 대해 고민하고 있었다. 필자는 다음과 같은 이야기들을 얼핏 들었다. “마이크로소프트는 항공권과 호텔 할인 같은 온갖 복지들을 제공한대.” “나는 일주일에 한번 엘리먼트 AI에 나고, 이 컴퓨터 한대를 받았어.” “그 사람 팔려갔대.” “그런데 다른 분야에선 ’팔려갔대!‘라고 말할 수 있지만 딥 러닝에선 통하지 않아.” “왜 그런데?” “딥 러닝 분야에선 모든 사람이 팔리는 셈이니까.” 벤지오의 ’팔려가지 않겠다‘는 비전은 완전히 실현되지는 않은 듯했다.
그러나 다른 어떤 학계보다도 벤지오는 인공지능의 미래에 큰 영향력을 갖고 있다. 그가 미래 세대의 연구원들을 훈련시키고 있기 때문이다(벤지오는 아들 둘이 있는데, 한 명은 인공지능 연구원이고 나머지 한 명은 뮤지션이다). 어느 날 오후 필자는 그를 만나러 연구실로 찾아갔다. 연구실은 작았지만 좁지는 않았다. 누군가 휘갈겨쓴 ’아기 AI‘라는 문구가 적힌 화이트보드가 있었고 ’쥐의 대뇌피질‘ 같은 제목의 책들이 꽂혀 있는 책장도 하나 있었다. 벤지오는 엘리먼트의 공동창립자이긴 하지만 회사에서 많은 시간을 보내지 않았다고 인정했다. 상업화와는 거리가 먼 선구적 인공지능 연구에 심취해 있었기 떄문이었다.
기술기업들은 인공지능 기능을 지금보다 향상시키는 데 집중하고 있다. 예컨대 패턴 인식과 이를 통한 결론 도출 같은 것들이다. 벤지오는 이런 기초적인 수준을 뛰어넘어, 인간 지성에 의해 더 강력하게 영감을 받은 기계를 개발하고 싶어한다. 그는 그것이 어떤 모습일지를 설명하는 데에는 주저했다. 하지만 기계가 창고 내에서 단순히 상품을 이동하는 데 그치지 않고, 실제 세상을 활보하는 미래를 상상해봄직하다. 단순히 명령에 반응하는 게 아니라, 인간을 이해하고 인간과 공감하는 것이다. 기계가 더 이상 이미지를 인식하는 데 그치지 않고, 창작 예술활동을 할 수도 있다. 이를 위해 벤지오는 인간의 뇌가 작동하는 방식을 연구하고 있다. 그의 포스트 닥터 연구원 중 한 명은 필자에게 “뇌는 지능을 갖춘 시스템이 가능한 형태라는 것을 보여주는 증거”라고 설명했다. 벤지오의 시범 프로젝트 중 하나는 게임에서 플레이어들이 가상 아기(벤지오의 화이트보드에서 적혀 있는 ‘아기 AI’)를 교육시키는 것이다. 게임에서 플레이어들은 가상 아기에게 세상이 어떻게 작동하는지를 가르친다. 가상 아기에게 말을 하거나, 무언가를 가리키거나 하는 등의 방식이다. 이 연구원은 “아기의 학습방식, 부모와 아이의 상호소통 방식을 통해 영감을 얻을 수 있다”고 설명했다. 한 때 기이하게 보였던 벤지오의 생각이 이제는 빅테크의 주류 기술 일부를 뒷받침하고 있다는 점을 고려하면, 전혀 설득력이 없는 것은 아니다.
벤지오는 인간과 유사한 인공지능 개발이 가능하다고 생각하고 있다. 한편 그는 광범위하게 퍼진 윤리적 우려는 일축했다(일론 머스크 Elon Musk 같은 인물들은 “인공지능이 인간의 지능을 넘어설 것”이라고 경고했다). 벤지오는 인공지능을 개발하고 사용하는 인간의 윤리적 선택에 대해 더 깊은 관심을 갖고 있다. 그는 한 인터뷰에서 “가장 위험한 상황 중 하나는 인간이 사적인 이익을 위해 인공지능을 무책임하게, 또는 악성적으로 사용하는 것”이라고 밝힌 바 있다. 다른 과학자들도 벤지오의 생각에 동의한다. 그럼에도 인공지능 연구가 급성장하면서, 여전히 전 세계에서 가장 강력한 정부와 기업, 투자자들로부터 자금 지원을 받고 있다. 벤지오의 대학 연구소도 빅테크 기업의 대규모 지원을 받고 있다.
기술 대기업에 대한 대화를 나누는 동안 벤지오는 필자에게 “우리는 엘리먼트 AI를 그들 수준으로 키우길 원한다”고 말했다. 필자는 그렇다면 그동안 거부해 왔던 부와 권력의 집중을 영구화하는 셈 아니냐고 질문했다. 그는 “단지 하나의 회사를 세워 전 세계에서 가장 부유한 회사로 키우는 개념이 아니다. 세상을 바꾸고, 사업하는 방식을 바꾸는 개념이다. 집중이 아니라 더 민주화시키는 것이다”라고 답변했다. 필자는 그의 입장에 감탄했고, 그의 의도를 충분히 믿게됐다. 그럼에도 그의 표현은 빅테크 기업들이 한때 사용한 슬로건과 크게 다르지 않은 것도 사실이다. 기업들은 당시 ‘악해지지 말고, 세상을 더 열린 공간으로 만들어 연결성을 강화하자’는 슬로건을 내걸었다. 윤리적인 기업체 운영은 창업자의 의도보단 오히려 시간이 지나면서 기업 소유주가 공익과 수익을 어떻게 저울질 하느냐와 더욱 관련이 있다. ‘우리는 무엇을 해야 하는가?’ 이 질문에 답하기 위해 컴퓨터들이 여전히 씨름 중이라면, 우리 인간도 큰 차이가 없다는 점에서 어느 정도 위안을 삼을 수 있을 듯하다.
▲가장 부유한 5대 AI 스타트업
‘유니콘의 시대’는 끝났을지 몰라도, 투자자들은 인공지능 회사에 여전히 많은 돈을 쏟아붓고 있다. 이들의 선택을 받은 상위 기업들을 살펴보자.
-바이트댄스 BYTEDANCE: 도시: 베이징. 투자액: 31억 달러. ’오늘의 헤드라인 기사‘로 잘 알려진 중국 디지털 미디어 기업으로, 인공지능을 활용해 개인 맞춤형 뉴스를 추천한다.
-센스타임 SENSETIME: 도시: 베이징. 투자액: 16억 달러. 알리바바가 지원하는 중국 기업이다. 인공지능을 활용해 텍스트 및 이미지를 인식하고, 이를 금융 서비스와 감시감독 및 보안, 소매, 소비자 모바일 인터넷 앱에 사용하고 있다.
-어펌 AFFIRM: 도시: 샌프란시스코. 투자액: 7억 2,500만 달러. 페이팔 공동 창립자 맥스 레브친 Max Levchin이 운영하는 차세대 금융 서비스 기업이다. 인공지능을 활용해 신용도를 평가해 개인 및 기업 대출을 제공한다.
-메그비 MEGVII: 도시: 베이징. 투자액: 6억 800만 달러. 다수의 중국 도시에서 이 인공지능회사의 얼굴인식 서비스 페이스++ Face++가 감시 시스템으로 사용되고 있다. 인증 부문에서 은행과 통신업체들에게도 인기가 높다.
-업스타트 UPSTART: 도시: 산 카를로스, 캘리포니아. 투자액: 5억 8,500만 달러. 구글 출신 전문가들이 샌프란시스코 만에 설립한 기업이다. 인공지능을 활용해 신용도를 평가하고, 금융 기관 및 소비자들을 위한 대출 절차를 자동화하는 서비스를 제공하고 있다. 출처: CB 인사이트
번역 최명인 chm7interpret@gmail.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
