[신조어 사전]인공지능 할루시네이션(Hallucination)

의도적으로 생성된 AI의 허위정보

인공지능(AI)이 주어진 데이터나 맥락에 근거하지 않은 잘못된 정보나 허위 정보를 생성하는 것을 의미한다. 환각이나 환청을 뜻하는 정신의학 용어에서 단어를 빌려왔다. 업계는 AI가 처음부터 잘못된 데이터로 학습하는 것을 원인으로 보고 있다. AI 언어 모델은 데이터를 학습해 확률상 가장 높은 대답을 내놓지 진위는 확인할 수 없기에 얼핏 그럴 듯해 보이지만 말도 안 되는 답을 내는 오류를 범한다는 것이다. 만약 인간이 악의적으로 오염된 데이터를 학습시킬 경우 위험해질 수 있기에 최근 주요 7개국(G7) 정부는 ‘챗GPT’ 등 AI 모델을 사용할 때 책임을 부여해야 한다는 취지의 공동성명을 채택하기도 했다.