과학기술정보통신부와 한국인터넷진흥원(KISA)은 외부의 사이버 위협으로부터 인공지능(AI) 모델·서비스를 보호하기 위해 기업과 국민이 참조할 수 있는 ‘AI 보안 안내서’를 발간했다고 10일 밝혔다.
과기정통부는 산학연 전문가들과 함께 국내외 AI 보안 정책 관련 사례 등을 분석하고 관계기관·업계 대상으로 의견 수렴을 거쳐 AI 모델 개발자, 서비스 제공자, 이용자 등이 참고할 수 있는 안내서를 마련했다.
기밀성, 무결성, 가용성 등 AI 모델·시스템 관련 보안 3대 요소을 기반으로 AI 생애주기 전 단계 보안 요구사항과 이용자의 보안 수칙 등 총 113개의 항목으로 구성됐다. 구체적으로 모델 개발 단계에서 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 보안 내재화를 실현하기 위한 보안 요구사항이 제시됐다. 서비스 제공 단계에선 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점에서의 보안 요구사항이 담겼다.
안내서는 국내외 AI 모델에 두루 적용할 수 있도록 국제 기준 및 가이드라인 등을 참고해 정립됐다. 범용성과 글로벌 규범 간 호환성을 확보했다는 것이다. 안내서는 과기정통부, KISA 홈페이지를 통해 무료로 내려받아 사용할 수 있다. 임정규 과기정통부 정보보호네트워크정책관은 “이번 안내서는 고도화되는 사이버 위협 속에서 AI를 안전하게 개발, 활용할 수 있도록 하는 중요한 이정표가 될 것”이라며 “AI에 대한 새로운 보안 위협을 모니터링하고 반영하는 등 보안 안내서를 지속 업데이트 해나갈 예정”이라고 설명했다.
< 저작권자 ⓒ 서울경제, 무단 전재 및 재배포 금지 >
coldmetal@sedaily.com
