잘 나가던 'AI 방산기업' 안두릴, 실전서 기술 결함 노출

‘제2의 팔란티어’로 불려온 인공지능(AI) 방산기업 안두릴이 기술·안전 결함으로 비판 받고 있다. 군사 분야 AI 자동화가 전통적인 방산기업 수준 신뢰성을 얻기까지는 갈 길이 멀다는 평가가 이어진다.

27일(현지 시간) 월스트리트저널(WSJ)은 올 5월 미 캘리포니아에서 진행한 해군 훈련에서 안두릴 소프트웨어 ‘래티스’가 탑재된 무인 함정 10여 척이 오작동을 일으켰다고 보도했다. 자동 항해 중 명령을 따르지 않고 멈춰서, 타 함정과 충돌 등 안전사고가 우려돼 훈련이 중단됐다고 한다. 멈춰 선 함정을 해안으로 예인한 군은 보고서에서 “안두릴이 군을 오도했다”며 “즉각 소프트웨어를 보완하지 않으면 인명 손실 가능성이 우려된다”고 썼다.

안두릴은 올 8월 드론 요격 시험 중에도 사고를 일으켰다. 요격 시스템 ‘앤빌’이 오리건주에서 시행한 시험 중 추락해 화재를 일으켰다. 안두릴은 자체 진화를 시도했으나 지역 소방차 3대가 동원돼서야 진화할 수 있었다. 무인전투기 ‘퓨리’도 시험 장비 나사가 분리돼 엔진이 손상되는 사건이 있었다고 한다. 우크라이나·러시아 전쟁 와중에도 안두릴 드론 신뢰성에 의문이 제기됐다고 WSJ은 전했다. 미 군 싱크탱크 랜드연구소의 조너선 웡 선임 정책연구원은 “안두릴은 수십 년간의 경험을 통해 현장 대응 능력을 갖춘 주요 방산업체에 비해 준비가 안 돼 있다”고 지적했다.



안두릴은 오큘러스 창업자 팔머 러키가 2017년 설립한 기업이다. 드론 등 방산 관련 기술을 중점적으로 개발해왔다. 올 6월에는 페이팔과 팔란티어 공동 창업자인 피터 틸 등에게 25억 달러의 투자를 받기도 했다.