앞으로 공공기관이 인공지능(AI)을 활용해 사업을 진행할 때는 AI 학습용 데이터의 보유·파기 규정 여부를 의무적으로 검토하고, 생성형 AI의 부적절한 답변에 대한 신고 기능을 마련해야 한다.
개인정보보호위원회는 5일부터 이 같은 내용을 반영한 ‘개인정보 영향평가에 관한 고시’ 개정안을 시행한다고 4일 밝혔다. 이번 개정은 기존 고시에 AI 분야의 별도 개인정보 영향평가 기준이 없어 공공기관이 개별적으로 영향평가 항목을 개발해 반영해야 했던 상황을 고려해 마련됐다.
개인정보위는 고시 개정을 통해 AI 관련 영향평가를 △AI 시스템 학습·개발 △AI 시스템 운영·관리 등 2개 분야로 구분했다. 학습·개발 분야에서는 공공기관이 AI 관련 사업을 추진할 때 개인정보 처리의 법적 근거를 확보했는지, 민감정보나 14세 미만 아동정보가 불필요하게 포함되지 않았는지를 의무적으로 점검하도록 했다. 더불어 AI 학습용 데이터의 보유 및 파기 규정 여부도 검토하도록 했다.
운영·관리 분야에서는 개발·운영 주체의 책임을 명확히 하고, 서비스 제공 시 사용자가 어디까지 허용되고 어디서부터 금지되는지 구체적이고 명확하게 안내하도록 했다. 아울러 생성형 AI 시스템의 부적절한 답변이나 개인정보 유·노출에 대한 신고 기능이 마련돼 있는지도 살피도록 했다.
개인정보위는 “이번에 마련된 인공지능 분야 영향평가 기준이 공공기관뿐 아니라 민간기업에서도 인공지능을 활용한 개인정보 처리 과정에서 잠재적 위험을 식별하고 경감하는 사전 예방적 개인정보 보호체계를 구축하는 데 유용한 참고자료로 활용될 수 있을 것”이라고 밝혔다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
rok@sedaily.com
