미 국방부는 최신 GIDE 9 워게임에서 공급 계획 초안을 작성하기 위해 생성 AI를 테스트

군 작전사령부의 보급 장교들은 최신 글로벌 정보 지배 실험인 GIDE 9의 일환으로 물류 계획을 작성하는 데 도움이 되는 ChatGPT 같은 소프트웨어를 테스트했다.

그들의 평결: 제너레이티브 AI는 CJADC2로 알려진 초기 지휘통제 혁명의 중요한 측면인 그들의 인간 지휘관을 제공하기 위해 수많은 생각을 초월하는 세부사항들과 개요 옵션들을 분류하는 것을 도와주는 거대한 잠재력을 보여주었다.

미 국방부 중앙정보국(CDAO)의 GID 국장인 매튜 "노마드" 스트로마이어 공군 대령은 화요일 CSIS 웹캐스트에서 "우리가 발견한 것은, 특정 용도의 경우에, 그것이 많은 가치가 있다는 것이 입증되고 있다는 것"이라며 "이것은 만병통치약도 아니고, 판도라의 악의 상자도 아닙니다. 그 사이 어딘가에 있습니다."라고 말했다

그러나 설득력 있지만 잘못된 답변을 산출하는 생성적인 인공지능의 경향을 고려할 때, 그 기술은 길들여지고, 활용되고, 신뢰할 수 있는 데이터의 엄격한 식단을 제공할 필요가 있고, 그리고 나서 사용자들이 원본 출처에 대해 그것들을 다시 확인할 수 있도록 그것의 답변들을 기술하도록 강요될 필요가 있다. 국방부는 또한 인공지능에 공급되는 군사 기밀이 빨려 들어가 국방부의 보안 경계 밖에 있는 모기업에 의해 훈련 데이터로 사용되고, 심지어 그들의 다음 공개적으로 이용 가능한 제품에 포함되지 않도록 보장할 필요가 있다.

다시 말해서, 군대는 고등학생들이 숙제를 속이기 위해 사용하는 것과 같은 공개적으로 이용 가능한 챗봇으로 전쟁 계획을 작성할 수 없다. 그들은 Reddit 게시물과 다른 공개적으로 이용 가능한 웹사이트를 사용하여 Large Language Model에게 영어를 말하는 방법을 가르칠 수 있지만, CDAO 관계자들과 다른 전문가들은 일단 이러한 기본 사항을 알게 되면 DoD가 일반적으로 수집하는 데이터와 출력하는 답변 모두를 안전한 경계 내에 유지하기를 원한다고 말한다.

CDAO의 리마 태스크포스 책임자인 M. 자비에르 루고 해군 대령은 "일반적으로 사용되는 도구들은 우리가 권장하는 것이 아니다"라며 "진정한 효용은 우리가 실제로 격리할 수 있는 도구들에 있다"고 말했다

'인간은 언제나 책임이 있다'

루고는 "나는 세상을 셋으로 나눕니다: 야생, 동물원, 그리고 우리."라고 말을 이었다. 야생은 인터넷의 광대한 풍경, 공개 시장, 그리고 민간 부문의 혁신으로, 국방부는 민감한 정보를 노출하지 않고 접근하는 법을 배워야 한다. 동물원은 국방부 정보 네트워크로 통칭되는 군이 통제하는 사이버 공간이다. 우리는 국방부 내부의 다양한 보안 구획으로, 그들 중 일부는 매우 기밀로 취급된다.

루고는 "동물원이나 우리 안에서 실제로 컨테이너화할 수 있고 실제로 사용할 수 있는 모든 도구들이 고민하던 것들"이라고 말했다.

루고의 태스크포스 리마는 지난 8월 창설되었으며, 현재 국방부 전역에서 제출된 약 230개에 달하는 인공지능을 위한 잠재적인 "사용 사례"를 여전히 수집하고 있으며, 상세한 지침과 가드레일을 파괴하고 있다고 그는 말했다. 그러나 처음 30일 이내에, 그들은 금과옥조를 선언했다:

루고는 "인간은 언제나 책임이 있다"며 "구글이나 OpenAI을 가리키며 '그들이 썼다'고 말하지 말라"고 강조했다

그것이 스트롬마이어와 그의 팀이 마음에 담고 있는 원칙이다. 그는 "우리는 그것에 대해 매우 측정되고 있다. 우리는 태스크포스 리마로부터 우리의 신호를 받고 있다"고 말했다.

그는 "거기에는 많은 가능성이 있다"고 주장했지만 AI 출력물은 인간이 확인하고 편집하고 결정하는 대략적인 초안으로 취급돼왔다. "최종 답이 아닌 초기 콘텐츠 제작"이라는 것이다

그렇다면 육군이 주도한 대규모 프로젝트 컨버전스 연습과 합쳐진 최신 분기별 GIDE에서 제너레이티브 AI가 어떻게 도움이 되었을까? 챗봇은 전 세계의 명령어들을 연결하는 복잡한 "데이터 메쉬"의 사용자 친화적인 면일 뿐인 것으로 밝혀졌다.

GIDE의 안내

스트로스마이어는 "지난 주 GIDE 9을 마쳤다"고 말했다. "그 동안 우리는 여러 전투 지휘부와 함께 물류를 위한 인공지능 능력에 대한 단일 블라인드 테스트를 했다. 즉, 한 팀의 참모들은 전통적인 프로세스를 고수하는 새로운 인공지능을 사용했고, 그들의 산출량을 평가하는 사람들은 어느 것이 어떤 것인지 알지 못했다."

Strohmeyer는 보급품과 지원 부대를 한 곳에서 다른 곳으로 재배치하는 방법을 찾는 것은 일상적이면서도 복잡한 작업이라고 설명했다. 대규모 직원들이 전 세계 부대의 최신 데이터를 추적하면서 "수백 시간"이 걸리는 지루하지만 필수적인 작업이다:

연료에서 식량, 특수 가교 장비에 이르기까지 최전방 부대에는 무엇이 필요한가요? 지금은 누가 가지고 있나요? 어디에 있나요? 어떻게 그들에게 갈 수 있나요? 비행기, 기차, 배, 트럭, 군수품 부대와 민간 계약 업체의 가장 빠르고/저렴하며 안전한 조합은 무엇인가요? 어떤 공항, 항구, 도로, 다리가 짐을 처리할 수 있으며 오늘 아침 현재까지도 멀쩡한가요?

1단계는 데이터를 공유할 수 없는 호환되지 않는 컴퓨터 시스템에 가두는 대신, 모든 관련 정보를 이용할 수 있도록 하는 것인데, 이 과정은 직원들로 하여금 길고 오류가 잦은 데이터 열을 수동으로 다시 입력하거나 심지어 끈적거리는 메모지에 중요한 정보를 스크롤하도록 강요한다. CDAO에 있는 스트로마이어의 상사들은 수백 개의 서로 다른 조직들의 데이터 "스토브파이프"를 하나의 "데이터 메쉬"로 연결하는 것을 중요한 추진 과제로 삼고 있다.

그는 "우리가 짊어지고자 하는 데이터 메쉬 서비스를 통해 전투 지휘부 간에 공통적으로 데이터를 공유할 수 있다"고 말했다. "과거에는 그 데이터를 다른 전투 지휘부에서는 볼 수 없었다. 하지만 지금은 우리가 하는 모든 일을 진정으로 세계적으로 통합하려고 노력하고 있기 때문에 그 데이터의 일부는 모든 전투 지휘부에서 공유되며 이메일이나 다른 것을 통해 공유될 뿐만 아니라 실시간으로 공유된다."

루고는 "GIDE와 JADC2는 데이터 메쉬가 필요한 매우 중요한 이유"라고 덧붙였다.

"메쉬" 개념의 중요한 의미는 기존 데이터베이스를 뜯어내고 하나의 중앙 메가 서버로 교체할 필요가 없다는 것인데, 이는 비용이 너무 많이 들 뿐만 아니라 단일 장애 지점을 만들 것이다. 대신 기존 데이터베이스를 그대로 두면서 상호 연결과 로드맵(데이터 카탈로그라고 함)을 맨 위에 겹겹이 쌓는 것이다.

사실, 스트로마이어는 실시간으로 공격 목표를 세우고 상대 세력을 방어하는 최전방 전투 부대의 경우, 당신의 데이터 메쉬는 방해, 해킹, 그리고 네트워크의 물리적 파괴를 견뎌야 한다고 말했다. 그래서 GIDE 9는 중요한 데이터의 모든 조각을 모든 노드에서 백업하는 실험을 했고, 그래서 부대들은 끊어져도 계속 싸울 수 있었다.

그러나 일단 그 모든 데이터를 확보하고 나면, 단지 인간이 결정을 내리기 위해 시간 내에 소화하기에는 너무 많은 정보라는 것이 밝혀진다. 대량의 정보를 수집하고 읽을 수 있는 요약본을 뱉어내는 것이 전체 목적인 생성적 인공지능을 입력하라.

그는 "[예를 들어] '이 지역에서 도로망의 새로운 변화를 찾아보라'는 아주 맞춤화된 구체적인 프롬프트를 제공하면 그것을 정말 잘 파악할 수 있다"며 "그것은 또한 사람들이 확인할 수 있도록 정보원을 사람들에게 노출시키는 방식으로 할 수 있다"고 말했다

스트로마이어와 그의 팀은 아직도 GIDE 9의 피드백을 모두 소화하고 있으며, 이는 소프트웨어 업데이트와 간소화된 직원 절차를 모두 개선하는 결과로 이어질 것이며, 이제는 3개월도 채 남지 않은 GIDE 10에서 테스트될 예정이다. 분기별로 실험이 그렇게 빡빡하게 진행되는 것은, 수년에 걸친 일반적인 파이프라인이 달성하기 위해 고군분투하는 일종의 급속한 진전을 이끌어내기 위한 것이며, 많은 유망한 프로젝트들이 연구개발과 실제 구축 사이의 "죽음의 계곡"에서 흐지부지되고 있다. 이와는 대조적으로, GIDE는 실리콘 밸리에서 영감을 받아 소프트웨어 개발자들과 서비스 구성원들을 나란히 배치하는 새로운 "애자일" 접근법의 일부이다.

스트로스마이어는 "이것은 GID 연습을 수행하는 연구 조직이 아니었다"며 "이것은 실제 전투원들이 이런 일을 하고 있었고, 무엇이 효과가 있는지를 보고 있었고, 과정을 거치면서 효과가 없었던 것"이라고 강조했다

그는 수개월간의 예산 정체로 인해 이러한 혁신 사이클이 둔화되었다고 인정했지만, 바로 지난주에 통과된 지출 법안은 적어도 연방 회계연도가 끝나는 9월 31일까지 자금 지원 수문을 다시 열었다. 스트로스마이어는 "우리는 속도를 상당히 줄여야만 했다"며 "이제 이러한 것들을 전투 지휘부에 더 밀어낼 수 있게 됐다"고 말했다