미 국방부 감독관실이 국방부의 인공지능 프로젝트 문서화 부족을 비판

미 국방부가 주력인 인공지능(AI) 노력에 대한 작업을 제대로 문서화하지 않아 향후 실수의 위험이 커지고 있다는 정부 감시 보고서가 나왔다.

국방부 감찰관은 정부가 빅데이터와 머신러닝의 통합을 가속화하는 것을 목표로 한 프로젝트 메이븐에 대한 연방법 및 정책에 따라 접촉을 모니터링했는지 여부를 평가했다. 국방부가 AI를 어떻게 활용하고 있는지에 대한 포스터 차일드(* 특정 활동을 나타내는 전형으로 여겨지는 인물)로서 자주 거론된다.

육군 계약사령부와 육군연구소는 국방부 알고리즘전 교차기능팀과 손잡고 AI 개발을 지원하고 프로젝트 메이븐에 대한 4건의 계약과 협력 계약을 체결했다. ECS 연방은 이 중 3건의 계약을 성사시켰는데, 모스사가 네 번째 계약을 따냈고 카네기 멜론 대학이 협력 계약을 따냈다. 이 계약은 프로젝트 메이븐의 목표와 관련된 문제를 해결하기 위해 2018년 9월부터 2020년 2월 사이에 이루어졌다.

감사관은 모든 관련 정부 기관이 보고, 측정지표, 프로세스 및 절차를 사용하여 프로젝트 메이븐의 협력 계약과 4건의 계약을 성공적으로 모니터링하고 관리하여 기업들이 교차 기능 팀이 설정한 사전 결정된 결과물을 충족하도록 하는 것을 발견했다.

그러나 교차 기능 팀은 그러한 노력을 공식화한 접근방식을 문서화하지 않았으며, 감사관은 프로그램의 성장과 인력 이동에 따라 계약의 모니터링 및 관리에 있어 실패 위험이 증가할 수 있다고 말했다. 더욱이, 문서화의 부족은 특히 국방부가 정교한 국가들과 경쟁하기 위해 AI와 기계 학습 노력을 확장하려는 것처럼 프로젝트의 장기적인 성공과 성장에 부정적인 영향을 미칠 수 있다. 수정된 보고서는 이러한 미래의 노력들이 문서화되지 않으면 배운 교훈으로부터 이익을 얻지 못할 수도 있다고 말했다.

프로젝트 메이븐은 전쟁 기술과 연관되기를 원하지 않는 직원들의 반발에 따라 구글이 프로젝트에서 하차했을 때 이미 세간의 이목을 끄는 논란을 겪었다. DoD가 실리콘 밸리의 기술 회사들에게 최신의 가장 진보된 기술을 활용할 수 있도록 도와달라고 요구하면서 이 문제는 더 큰 문제가 되었다.

국방부의 감찰관실은 두 가지 권고안을 제시했다.

- 교차기능팀장은 사업이 미션 소유자에게 이관될 때 효율성을 기하기 위하여 프로젝트 메이븐의 AI 개발계약 모니터링 및 관리 프로세스 및 절차를 공식화한다.

- 국방부 취득차관은 교차기능팀의 신흥기술 습득 과정과 절차에 대한 검토를 실시해 이 중 활용되는 것이 있는지 다른 프로그램에 대한 취득정책에서 추가로 공식화해야 할 것이 있는지 평가한다.

감찰국은 프로그램에 대한 평가 내내 교차 업무 팀과 권고 사항을 논의했다고 언급했다. 2021년 10월 논의 이후, 교차 기능 팀은 보고서의 권고 사항을 다루기 위해 취한 조치의 증거를 제공하여 역할과 책임, 표준 운영 절차 및 메이븐 취득 가이드를 포함시켰다.

나아가 국방부 인수담당 차관보는 부서 간 기술 프로세스 검토 권고에 동의했다.