미 육군, 시범 생성형 AI 프로그램 7월 시작 예정

미 육군은 인공지능 알고리즘 구현과 관련된 위험을 줄이기 위한 500일 계획의 일환으로 7월에 인수, 물류 및 기술 (ASA) 부서 내에서 인공지능 프로그램을 시범 운영하는 것을 고려하고 있다. 만약 올바르게 수행된다면, 그 시범은 계약서 작성과 같이 종종 힘들고 긴 작업을 완료하기 위해 인공지능 생성 프로그램을 사용할 것이다.

이 파일럿 프로그램은 LLM (대규모 언어 모델)을 활용할 것이며, 통제된 미분류 정보를 저장하고 처리할 수 있는 최고 수준의 권한을 가진 시스템인 IL (Impact Level) 5 보안 클라우드 환경에서 운영될 것이다. 파일럿은 또한 프로세스 절차를 운영할 수 있는 자체 권한으로 행동할 것이다.

"파일럿은 우리의 생산성을 높이는 것 뿐만 아니라 우리가 할 수 있는 다른 것들은 무엇인가요? 우리가 활용하거나 추가할 수 있는 다른 산업 도구들은 무엇인가요? 예를 들어, 우리의 차량들 혹은 여러분도 우리의 무기 체계들 말입니다"라고 미 육군의 데이터, 엔지니어링, 소프트웨어 담당 차관보인 제니퍼 스완슨이 오늘 디펜스 원스 테크 서밋에서 말했다.

스완슨은 ChatGPT와 같은 다른 LLM 모델과 달리 육군의 LLM은 육군의 데이터를 이용해 훈련될 것이라고 말했다.

3월, 육군은 AI 알고리즘과 관련된 위험을 완화하기 위한 방법을 조사하기 위해 6월 30일에 끝나는 100일간의 계획을 시작했고, 후속 500일간의 프로젝트는 올 여름 말에 시작될 예정이다. 그녀는 LLM 파일럿 프로그램이 이 후자의 단계의 선두에 있을 것이라고 설명했다.

ASA(ALT) 내의 인공지능 구현에 대한 이러한 다층적인 접근 방식은 "Defend AI"라고 불리는 더 큰 계획의 일부라고 ASA(ALT) 사무실의 수석 부관인 영 방은 이달 초에 말했다. 방은 또한 Defend AI가 더 큰 방어 네트워크를 구성할 육군과 국방부 시스템으로 구현될 수 있는 알고리즘을 개발하기 위해 업계와 협력해야 할 것이라고 언급했다.

LLM 조종사는 육군 부차관보(DASA) 데이터, 엔지니어링 및 소프트웨어 사무소, DASA 조달 사무소 및 DASA 전략 및 인수 개혁 사무소이며 후자는 프로젝트의 정책적 측면에서 작업한다.

새로운 LLM의 희망적인 사용 중 하나는 정부가 더 빠른 속도로 계약을 만드는 것이지만, 스완슨은 이것이 즉시 일어날 것이라고 예측하지 않는다고 말했다.

스완슨은 "우리가 반드시 그것과 계약을 작성할 것이라고 생각하지는 않지만, 계약의 영역과 정책의 영역에서 우리에게 엄청난 투자 수익이 있다고 생각한다"고 말했다.

"하지만 우리는 먼저 조종하고 테스트해야 하며 모든 사람들이 편안하게 사용할 수 있도록 해야 합니다."라고 그녀는 덧붙였다.

LLM이 정확한 정보를 제공하도록 보장하기 위해 스완슨은 정보가 어디에서 왔는지에 대한 인용을 제공할 것이라고 말했다. 또한 그녀는 서비스의 100일 프로그램의 일부로 ASA(ALT)를 위한 "사실 찾기 생성 AI 정책"을 개발했으며, 이는 "우리가 지금 무엇을 얻고 있는지 알 수 없기 때문"이라고 스완슨은 말했다.

그녀는 또한 이러한 단계들이 인간들이 LLM의 작동 방식을 이해하도록 유도하는데 도움이 될 것이며, 본질적으로 LLM의 내부 작동에 대한 블랙박스를 모방할 것이라고 말했다.

스완슨은 "인용을 갖는 것은 사실 확인이 가능하다는 측면에서 매우 도움이 될 것"이라고 말했다.

"우리는 그것을 우리 자신의 데이터로 처리할 것이므로, 그것은 또 다른 큰 이점입니다. 그것은 IL 5 환경에서 작동할 것이기 때문에, 우리는 우리의 CUI 데이터를 넣을 수 있습니다… 그래서 우리는 우리가 무엇을 넣는지 알고 있고 그 모든 것이 일치하는지 확인할 수 있습니다"라고 그녀는 덧붙였다.

생성형 인공지능에서 자주 발생하는 또 다른 문제는 편견이다. 새로운 LLM이 어떻게 편견을 제거할 계획인지에 대한 질문을 받았을 때, 스완슨은 그 프로그램이 윤리적이고 책임감 있는 도구를 사용할 것이라고 모호하게 말했다. 그러나, 그녀는 약간의 편견이 불가피할 수도 있다고 언급했다.

스완슨은 "가끔 사람들이 편파적이기 때문에 편견이 어려운 것이 사실인가? 그래서 우리가 이 도구를 함부로 사용하지 않도록 확실히 하기 위해 감독과 비판적인 사고와 인간의 참여가 필요하다고 생각하는 바로 그러한 것들 중 하나일 뿐이다"라고 말했다.

그녀는 LLM을 개발할 회사가 무엇인지 밝히지 않았지만, 스완슨은 LLM이 ChatGPT에 의해 운영되지 않을 것이라고 강하게 강조했다.