최근 우리 생활에 일반화된 애플의 시리 등 음성 인공지능(AI) 비서들이 주로 여성의 목소리로 작동하면서 논란이 발생한 적이 있다. 성적 편견을 부추기고 남성 위주의 가부장제를 강화한다는 이유에서다. 유네스코 같은 국제기구까지 비난에 나섰다. 논란이 커지면서 이들 기업들은 남성 목소리 등 다양성을 시도했다. 물론 그럼에도 여전히 여성의 목소리 사용이 압도적이다.
음성 AI 기기를 사용하면서 혹시 ‘나의 목소리’가 녹음되고 있고 이것이 상업적으로 이용되고 있는지 의심해본 적이 있을까. 시리가 여성의, 특히 젊고 상냥한 여성의 목소리를 채용한 것은 사용자를 안심시키고 많은 대화를 유도하는 빅테크들의 의도가 아니냐는 것이다.
신간 ‘보이스 캐처(원명 The Voice Catchers)’는 우리의 주요한 생체정보인 음성(목소리)가 수집되고 상업적이거나 정치적으로 이용되는 현실을 고발하고 있다. 그동안 얼굴이나 지문, 홍채 등에 비해 목소리의 보안 문제는 별로 다루어지지 않았다.
하지만 시리 같은 AI 기가 확산되고 콜센터 이용이나 원격근무 등을 통해 목소리로 인한 업무와 이의 저장·이용이 늘어나면서 음성 데이터의 비자발적 활용에 대한 우려가 커지고 있다.
저자에 따르면 빅테크 들은 최근 앞다투어 음성 AI를 내놓고 있다. 애플의 시리와 구글의 어시스턴트, 아마존의 알렉사 등이 대표적이다. 이들은 집과 자동차 등 비롯해 우리의 생활 곳곳에 존재하면서 우리의 음성을 저장하고 이를 빅테크 클라우드로 전달하고 있다.
빅테크들은 음성 AI를 통해 우리의 업무를 돕고 편의를 제공한다 주장한다. 물론 이들의 욕심이 단순히 AI 기기 판매에 그치는 것은 아니다. AI 기기가 성능에 비해 훨씬 싼 이유다. 오히려 개인 음성테이터를 확용해 개인별 타깃 광고를 하거나 다른 비즈니스에 활용하려는 목적이 크다. 예를 들면 시리와 음식이야기를 하는 도중에 당사자가 호감을 느끼는 요리가 주문되는 식이다.
개인의 음성으로 데이터 기업들은 개인의 신체 특이사항을 파악하고 또 취향이나 정치적 성향까지 규정하면서 취업이나 보험, 은행거래 등에도 영향을 미칠 수 있다.
그럼에도 불구하고 빅테크들은 음성 AI 등의 위험 가능성을 무시한다는 것이 저자의 주장이다. 음성 AI가 단순히 개인을 도와주는 ‘비서’에 머물지는 않을 것이라는 지적이다. 구글이 검색시장을, 아마존이 인터넷쇼핑의 각각 지배하는 것처럼 음성 AI가 우리 생활공간을 지배하게 되는 것도 얼마 남지 않았다는 것이다.
“아마존과 구글은 고객을 두고 치열하게 경쟁하지만 공동의 사회적 목표를 두고는 서로 협력한다. 사람들이 음성 AI를 사도록 유인하고 이에 대한 감시를 우려하지 않도록 안심시키고 언제 어디서나 자신의 음성을 넘기는 것을 습관화하도록 만들고 있다.”
물론 이들 기업들이 내세우는 변명도 있다. 항상 제품을 소개할 때 소비자의 ‘동의’를 묻고 이에 대해 고지를 한다는 것이다. 하지만 아주 작은 글씨로 깨알같이 적인 약관을 읽어보는 사람이 얼마나 되겠나. 소비자들은 대기업들은 잘 할 것이라는 지레짐작으로 동의해 버린다.
빅테크들만 그런 것이 아니다. 아주 기본적인 사례가 콜센터다. 콜센터에 전화를 걸면 먼저 나오는 목소리가 있다. “서비스 품질 향상을 위해 통화 내용은 녹음됩니다”라는 멘트다. 내 목소리가 녹음되고 그 데이터는 차곡차곡 저장된다. 콜센터측에서 이를 활용하지 않는다는 것은 순진한 기대다.
음성은 고유한 자원으로, 무수한 정보가 담겨 있다. 음성을 통해서는 그 사람의 감정이나 성격을 추론할 수 있고 또 앓는 질병에서부터 체중, 나이, 인종 나아가 교육과 소득수준까지 식별해 낼 수 있다는 설명도 있다. 이러한 개인정보는 기업의 비즈니스에 확실히 도움이 된다. 다른 개인 생체정보에 비해 사회적 주의와 감시도 약하다. 기업들의 음성 데이터를 절실히 원하는 이유다.
저자는 “음성 AI는 우리의 친구가 아니다. 일부 미디어는 이를 귀족의 하인처럼 묘사하지만 사실이 아니다. 음성 착취의 미래를 받아들일 위험이 크다”고 지적한다. 이에 따라 음성 데이터에 대한 정부의 엄격한 규제와 시민사회의 자각이 필요하다는 것이 저자의 주장이다. 1만8000원
/최수문기자 chsm@sedaily.com
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
chsm@sedaily.com
