“현재 인공지능(AI)의 답변은 주로 ‘건강한 백인 젊은 남성’의 생각을 반영한다고 봐야합니다.실제 전세계 AI 기반 서비스를 인간의 뇌처럼 지도화 하면 ‘건강한 백인 젊은 남성’이 과대 대표 돼 있습니다.”
최문정 카이스트 과학기술정책대학원 교수는 생성형 AI가 정보의 옳고 그름을 학습하는 ‘강화학습’ 과정에서 결국 개발자가 가진 생각의 영향을 받을 수밖에 없다며 AI의 편향성 문제를 지적했다. 현재 전세계적인 열풍을 일으키고 있는 오픈AI의 챗GPT 또한 40여명의 데이터 과학자가 1년여동안 강화학습을 통해 답변 성공률을 높였는데, 이들 데이터과학자 대부분이 백인 남성인 것으로 알려졌다.
최 교수는 “이 같은 문제로 장애가 있거나 백인이 아닌 사람이 챗GPT를 사용할 경우 이들의 답변이 편향적이라 느낄 수 있다”며 “챗GPT가 불평등을 재생산 또는 강화하지 않도록 공정성 ·책임성·투명성 부분에서 많은 고민이 필요해 보인다”고 밝혔다. 관련 문제는 챗GPT와 같은 생산형 AI에 대한 인간의 의존도가 높을수록 더욱 부각될 전망이다.
인간보다 인간같은 생성형 AI인 ‘챗 GPT’ 열풍과 관련해 전문가들은 해당 서비스의 적용사례가 늘어날수록 윤리적 문제제기가 불가피할 것이라 지적한다.
오픈AI 또한 이 같은 문제제기를 의식해 ‘때때로 잘못된 정보를 생성할 수 있다’, ‘때때로 유해한 가르침이나 편향된 정보를 제공할 수 있다’ 등의 내용을 챗GPT 이용자에게 고지해 놓았지만 실제 현실에 사용되는 사례가 늘어날 수록 이 같은 문제제기 또한 늘어날수밖에 없다. 최 교수는 “챗GPT가 보편화되면 이를 사용하지 않고는 경쟁에 낙오되는 이른바 ‘휴먼증강’ 문제 외에 아이디어 구현시 자동화 서비스를 이용하지 않고는 일상생활 영위가 어려워지는 ‘의존성, 세상을 바라보는 관점 형성에 영향을 미치는 ’지배력‘ 등의 문제가 부각될 수 있다”며 “사용자가 여러 ’대화형 인공지능 챗봇‘ 서비스를 선택할 수 있는 환경을 마련해 이 같은 리스크를 줄여 나가야 한다”고 밝혔다. 특히 챗GPT만 놓고 보면 2021년 이후 데이터는 학습을 하지 않은 만큼, 향후 강화학습을 거치지 않은 채 실시간데이터에 기반해 답을 내놓을 경우 윤리적 편향성 및 해악성 관련 문제제기가 더욱 거세질 전망이다.
오픈AI 측 또한 생성형 AI가 부정적으로 사용될 수 있다며 각별한 주의를 당부 중이다. 샘 알트만 오픈AI 최고경영자(CEO)는 최근 한 인터뷰에서 “기술이 위험하게 사용될 수 있다는 두려움에 밤잠을 이루지 못하고 있다”며 “사람들에게 가장 주의를 주고 싶은 건 ‘환각(hallucination)’ 이슈이며 해당 모델은 완전히 지어낸 이야기를 사실인 것처럼 내세울 수 있다”고 우려했다. 오픈AI가 최근 내놓은 GPT-4.0은 이전버전 대비 정확도가 40% 가량 개선 됐지만 ‘환각’ 이슈 등 인간이 아니기에 다수의 결함을 갖고 있을 수밖에 없다.
이 같은 챗봇형 AI의 편향성·유해성 문제는 시장 경쟁이 치열해지면 상당부분 개선될 것이라는 긍정적 시각도 나온다. 강화학습에 투입되는 과학자의 성별·연령·인종을 다양화 하는 한편, 편향되거나 부정확한 데이터를 기계학습 투입 전 사전에 걸러내는 방식으로 가능할 전망이다. 이경무 서울대 석좌교수는 “특정 챗봇형 AI에 문제가 있다면 결국 소비자는 다른 제품을 택하게 될 것이고, 이 같은 과정에서 답변의 편향성이나 신뢰성 등이 꾸준히 개선될 것이라 본다”며 “AI의 신뢰성 문제는 결국 시장원리에 따라 개선되거나 해결될 것”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
chopin@sedaily.com
