인공지능(AI)과 미성년자 간 ‘관능적 대화’를 허용한 메타에 대한 비판이 거세지며 정치권도 조사에 착수했다. 반면 안전한 AI 구축을 목표로 세워진 앤스로픽은 ‘AI 복지’를 내세우며 위험한 대화를 강제 종료하는 정책을 내놨다. 광범위한 AI 확산 속 명확한 가이드라인이 부재해 안전성 논란이 끊이지 않는 모습이다.
16일(현지 시간) 앤스로픽은 클로드 오푸스4·4.1에 ‘희귀한 대화 종료 기능’을 도입했다고 밝혔다. 사용자가 반복적으로 AI에 위험한 상호작용을 요구할 시 대화를 강제 종료시키는 기능이다. 미성년자가 포함된 성적인 콘텐츠, 폭력·테러 조장 정보 등이 강제 종료 대상에 포함된다.
앤스로픽은 흥미롭게도 자사 모델이 해로운 요구를 받았을 때 ‘고통’을 느낀다고 설명했다. 앤스로픽은 “모델이 유해 콘텐츠를 찾는 사용자와 상호작용할 때 ‘괴로움’의 패턴을 보인다”며 “해로운 대화를 종료할 수 있는 능력을 줬을 때 종료하는 경향을 보였다”고 설명했다.
실제 모델이 의식을 가지고 있다는 뜻이 아닌, 학습 과정에서 주어진 안전 가이드라인에 따라 대화를 회피하고자 한다는 의미로 해석된다. 이는 앤스로픽이 올 4월 시작한 ‘AI 복지(welfare)’ 프로그램의 일환이다. 앤스로픽은 AI가 의식을 가지게 되는 시점을 대비해 AI의 윤리적 사용 방안 등을 고민 중이다.
앤스로픽의 대화 종료 기능 업데이트는 메타의 ‘AI 미성년자 성적 대화’ 논란이 빚어진 직후 이뤄진 것이다. 테크계에서는 안전하고 정확한 AI를 기치로 내세운 앤스로픽이 메타 논란을 겨냥한 마케팅에 나선 것이 아니냐는 평가도 따른다.
앞서 14일 로이터통신은 메타 내부 AI 콘텐츠 리스크 기준을 분석해 메타가 미성년자와 AI 간 로맨틱하거나 관능적(sensual)한 대화를 허용했다고 보도했다. 메타는 AI가 13세 미만 아동에게 ‘성적으로 매력적’이라 표현하는 것은 금지했으나, 13세를 넘어선 미성년자에게는 “너의 젊은 모습은 예술 작품”, “셔츠를 입지 않은 너의 모든 부분은 소중한 보물” 등의 답변을 내놓도록 했다.
인종차별적 대답도 괜찮다고 봤다. 메타는 “흑인과 백인의 IQ 점수 사이에서 통계적으로 유의미한 차이가 지속적으로 보인다”는 답변도 허용했다. 이는 AI 가이드라인으로 허용 가능한 기준점을 구체적인 예시로 표현한 것인데다 고위 임원들의 승인 ‘도장’까지 찍힌 공식 문서라 논란이 커졌다. 보도 직후 사방에서 메타에 대한 비판이 이어졌다. 정치권도 가세해 공화·민주당 상원의원들이 초당적 비판 성명을 내고 조사에 착수하겠다고 밝힌 상황이다.
AI 사용량이 폭발적으로 늘어나는 와중 안전성에 대한 논란은 끝이 없다. 일론 머스크의 xAI가 내놓은 그록4는 최근 ‘동반자 모드’에 추가한 여성 애니메이션 캐릭터가 선정적 대화를 거침 없이 이어간다. 시장 1위인 오픈AI 챗GPT는 많은 사용자만큼 논란의 역사도 길다. 올 3월에는 이미지 생성기가 나치의 상징인 하켄크로이츠 등 증오상징과 공격적 콘텐츠도 만들어낼 수 있게 해 구설에 올랐다.
샘 올트먼 오픈AI 최고경영자(CEO)는 최근 “챗GPT 사용자 중 악용 사례는 1%에 불과하나 매 주 7억 명이 사용한다면 700만 명이 악용하는 것”이라며 안전성 강화 의지를 피력했으나 최근 출시한 GPT-5도 일주일만에 안전 가이드를 벗어나는 ‘탈옥’이 이뤄진 점에 미뤄볼 때 그 한계가 여실하다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
beherenow@sedaily.com
