미 국방부, 국방용 생성 AI 연구를 위한 '태스크포스 리마' 출범

미 국방부는 대규모 언어 모델과 같은 생성형 인공 지능(AI) 도구가 어떻게 혁신 노력을 강화하는 동시에 책임감 있게 사용될 수 있는지 더 잘 이해하기 위해 새로운 태스크 포스를 만들었다고 오늘 발표했다. 

캐슬린 힉스 국방부 차관은 성명에서 "리마 태스크포스 설립은 AI 혁신을 주도하겠다는 국방부의 확고한 의지를 강조한 것"이라고 말했다. "우리는 발전하는 AI의 혁신적 힘을 탐색하면서 국가 안보를 보장하고 위험을 최소화하며 이러한 기술을 책임감 있게 통합하는 데 변함없이 초점을 맞추고 있습니다. 국방의 미래는 단순히 최첨단 기술을 채택하는 것이 아니라 선견지명과 책임감, 그리고 국가에 미치는 광범위한 영향에 대한 깊은 이해를 바탕으로 이루어져야 합니다."

국방부 발표에 따르면 리마 태스크 포스는 국방부 최고 디지털 및 AI 사무소(CDAO)가 이끌며 "국방부 전체에서 제너레이티브 AI 역량을 평가, 동기화 및 활용하여 국방부가 국가 안보를 보호하면서 첨단 기술의 선두에 서도록 보장할 것"이라고 한다. 

제너레이티브 AI는 새로운 기술은 아니지만 ChatGPT와 같은 접근성 덕분에 지난 몇 달 동안 기술 업계에서 인기가 급상승했다. 이 기술은 방대한 데이터 세트에 대해 학습되며 오디오, 텍스트, 이미지 및 기타 유형의 콘텐츠를 생성할 수 있다. 현재 국방부는 제너레이티브 AI를 정보 수집과 미래 전쟁에 활용할 수 있는 방법을 모색하고 있다.

그러나 이 기술은 국방부에 새로운 기회를 제공할 수 있지만, 국방부는 이 기술로 인해 노출될 수 있는 위험도 고려해야 한다. 리마 태스크 포스를 발표하는 힉스의 각서에 따르면 국방부는 이 기술을 책임감 있게 사용하는 것을 목표로 하고 있으며, 태스크 포스는 그 방법에 대한 정책 권장 사항을 제시할 것이다.

CDAO는 정책, 연구 및 엔지니어링, 획득 및 유지, 정보 및 보안을 담당하는 국방부 차관실, 국방부 최고정보책임자실과 함께 일하게 되며, 모든 부서는 태스크포스 산하에 특별히 지정된 역할을 맡게 된다. 

"국방부는 적절한 보호 조치를 파악하고 제대로 관리되지 않은 훈련 데이터와 같은 문제로 인해 발생할 수 있는 국가 안보 위험을 완화하면서 책임감 있게 제너레이티브 AI 모델의 채택을 추진해야 할 의무가 있습니다."라고 CDAO 크레이그 마텔은 발표문에서 말했다. "우리는 또한 적들이 이 기술을 어느 정도까지 사용할지 고려해야 하며, AI 기반 솔루션의 사용을 방해하기 위해 노력해야 합니다."

제너레이티브 AI가 국방부에 적용될 수 있는 방법

이 각서에 따르면 태스크포스에서 얻은 교훈은 국방부의 책임 있는 AI 실무 협의회에 전달될 것이다. 이 문서에는 태스크 포스의 구체적인 목표와 의도된 결과물이 일정과 함께 자세히 설명되어 있다. 예를 들어, 2024 회계연도 2분기까지 리마 태스크 포스는 대규모 언어 모델과 생성형 AI 사용 사례에 대한 평가 및 권장 사항을 제공하고, 다음 회계연도 분기까지 거버넌스 및 감독 계획을 마련할 것으로 예상된다.

지난 5월 마르텔은 허위 정보를 위한 완벽한 도구가 될 수 있다며 제너레이티브 AI의 단점에 대해 경고했다. "네, 무서워 죽을 지경입니다. 그게 제 생각입니다."라고 그는 볼티모어에서 열린 AFCEA 테크넷 사이버 컨퍼런스에서 말했다.

그럼에도 불구하고 국방부는 이 기술을 가장 잘 활용할 수 있는 방법을 찾기 위해 노력하고 있다. 지난 4월, 국방부의 핵심 기술 담당 부기술 책임자인 메이너드 홀리데이는 Breaking Defense와의 인터뷰에서 국방부가 "신뢰할 수 있는 AI와 자율성"에 관한 최초의 컨퍼런스를 개최할 것이며, 이 컨퍼런스에서는 부분적으로 생성 AI의 위험과 잠재력에 대해 살펴볼 것이라고 말했다.

홀리데이는 "앞으로 LLM의 환각적 경향을 어떻게 완화할지, 그리고 LLM에 대한 질의 결과를 더 신뢰할 수 있도록 하기 위해 무엇을 할 수 있을지에 대해 논의할 것입니다."라고 말했다.

한편, 군대에서도 이미 제너레이티브 AI가 미래에 어떤 도움을 줄 수 있는지 탐색하기 시작했다. 지난 6월, 프랭크 켄달 공군 장관은 군 과학 자문위원회에 이 기술의 잠재적 영향에 대해 연구해 달라고 요청했다고 발표했다.

"켄달 장관은 "과학 자문위원회에 AI와 관련해 두 가지를 요청했습니다. 하나는 ChatGPT와 같은 생성형 AI 기술을 살펴보고 군사적 응용에 대해 생각해보고 이를 위한 소규모 팀을 구성하는 것이었습니다."라고 켄달은 말했다. "또한 AI 기술 모음을 살펴보고, 인용하고, 인용 취소하고, 이해하고, 가능한 한 빨리 도입하는 방법을 알아내는 데 도움을 줄 보다 영구적인 AI 중심 그룹을 구성하는 것이었습니다."