“우리 부장님이 좋아하실 만한 기획안이 뭐야?” “내 친구가 이런 말을 하는데 무슨 뜻일까?”
업무를 하다가 또는 친구와 갈등이 생기면 곧바로 인공지능(AI)에게 묻는 이들이 점점 늘어나고 있다. 낯설고 못 미더운 존재로 여겼던 AI에게 이처럼 거의 모든 것을 맡기는 ‘AI 외주시대’가 왔다고 해도 과언이 아니다. 스스로 고민하고 생각하는 대신 AI, 즉 데이터가 종합한 결론을 신뢰하는 게 편하고 무엇보다 리스크가 낮기 때문일 것이다. 이처럼 인간을 대신해 결정할 권리를 넘겨 받은 AI는 책임은 지지 않는다. AI가 제시한 해결책이 의도하지 않은 결과를 가져온다고 해도 AI에 책임을 물을 수 없다.
신간 ‘무책임한 AI’는 이처럼 AI에 책임을 물을 수 없음에도 무한 신뢰하는 일종의 ‘AI 맹종’ 현상을 구체적인 사례를 통해 살펴보고 AI는 기계에 불과하며 인간의 철저한 관리 감독을 통해서만 제 기능을 발휘할 수 있음을 보여준다. AI는 앞서 언급한 수준보다 더 많은 일들을 하고 있다. 취업 서류 심사, 채용 면접, 은행 대출 심사, 법원 판결 보조, 범죄 리스트 등재, 테러리스트 색출, 자율주행차 운행 등. 인간이 하고 있는 일을 모두 AI에 외주를 줬나 싶을 정도로 일의 종류가 다양하며 이런 분야까지 맡겨도 되나 싶을 정도로 한 사람의 생명과 삶을 송두리째 흔들어 버릴 수 있는 분야까지 망라한다.
게다가 AI 때문에 사라지거나 사라질 인간의 직업 리스트는 지금도 계속 업데이트 중이다. 사람과 AI의 ‘경쟁’에서 사람이 이길 것이라고 전망하기 보다 패배할 것이란 전망이 더 힘을 받는다. 이는 ‘인간이 AI보다 더 열등하고 더 부정확하며 오류가 잦다’라는 전제가 참이라야 가능하다.
그러나 과연 정말 그럴까. 이 책은 AI를 바로잡을 수 있는 것은 오직 인간의 철저한 관리와 감독이며 이를 통해 AI가 제 기능을 발휘하고 인간이 AI를 똑똑한 수단으로 사용할 수 있다고 단언한다. AI는 프로메테우스가 선사한 보이지 않는 불로, AI가 유토피아냐 디스토피아냐는 결국 인간의 선택에 달려 있다는 것이다.
특히 저자는 수년 동안의 숙고 끝에 하나의 통일된 해법이 아니라 모든 경우에 적용할 수 있는 기본 원칙을 제시한다. 검증이 가능한 결정이라면 정기적인 품질 점검, 데이터 사용의 투명성, 신속한 이의제기 절차가 필요하다는 것이다. 동시에 인간과 기계가 함께 의사결정을 내릴 때의 사회적·기술적 결과를 이해하고 설계하기 위해 학제 간 연구가 필수다. 심리학, 윤리학, 철학, 사회학, 법학 등 다양한 분야가 협력해야 하며 정보과학자가 제도 설계에 적극 참여해야 기술적 요구가 의미 있게 반영될 수 있다고 주장한다. 2024년 3월 유럽의회가 통과시킨 세계 최초의 포괄적 ‘인공지능법’은 이러한 방향성을 제도화하는 첫걸음이라는 점도 소개한다. 2만 2000원.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
yeonvic@sedaily.com
