미 국방부의 태스크 포스 리마가 전투원을 위한 생성형 AI를 보호하는 방법

이번 주는 조 바이든 대통령의 행정명령에 따라 미국 정부가 인공지능에 접근하는 방식에 있어 이정표가 될 것으로 보인다. 이 새로운 기고문에서 전직 국방부 관리인 토니 드마티노는 새로 구성된 태스크포스 리마를 올바르게 사용하는 데 중점을 두면서 국방부가 AI 경쟁에서 뒤처지지 않도록 해야 한다고 주장했다.

이번 주에 발표된 바이든 대통령의 행정명령은 군과 정보 커뮤니티가 AI를 안전하고 효과적으로 사용할 수 있도록 국가 안보 각서를 개발할 것을 명령하고 있다. 저는 최근 국방부 지도자들이 상업용 AI 소프트웨어를 채택할 때 보편적인 표준을 확보하기 위해 국방 기업 전반에 걸쳐 공유된 획득 지침을 만들어야 한다고 주장한 바 있다. 제너레이티브 AI의 개발과 적용에서 이보다 더 시급한 것은 없다.

일부에서는 제너레이티브 AI 모델의 개발과 공개 획득을 일시적으로 중단해야 한다고 주장했다. 그러나 국방부의 두 고위 지도자는 잠재적 적들이 멈추지 않을 것이며 미국이 뒤처질 위험을 감수할 수 없다는 한 가지 주요 이유를 들어 반대했다. 중국은 이미 허위 정보를 퍼뜨리기 위해 생성 AI를 실험하고 있으며, 우리도 이에 발맞춰 경쟁 우위를 확보해야 한다.

최고 디지털 및 인공 지능 사무소에 새로 구성된 태스크 포스 리마는 야간 투시경 광학 분야의 "밤을 지배하라"는 혁명 같은 이전 국방부의 성공 사례에서 배워 현재 진행 중인 데이터 혁명을 주도해야 한다. 태스크 포스는 정보에 입각한 결정을 내리고 전쟁 수행과 준비태세에서 보건 및 비즈니스 업무에 이르기까지 다양한 임무에 걸쳐 생성형 AI 모델의 구현을 구체화할 것이다. 태스크포스의 임무 중에는 위험 완화 및 안전장치와 관련된 긴급한 질문에 답하기 위해 업계에서 가장 혁신적인 기업들과 접촉하는 것도 포함된다.

혁신을 선도하는 국가 안보 자문 회사의 창립 파트너로서 저는 매일 AI 기업들로부터 소식을 듣는다. 태스크포스 리마가 위험도가 낮은 상용 소프트웨어를 구매할 때 업계에서 입증된 여러 표준과 안전장치를 마련할 수 있다. 저는 최전선을 위한 제너레이티브 AI 개발의 한계를 계속 뛰어넘을 수 있도록 업계의 직접적인 피드백을 몇 가지 수집했다:

모든 제너레이티브 AI가 위험성이 높은 것은 아니다. 제너레이티브 AI는 ChatGPT와 같이 환각을 일으키기 쉬운 챗봇 그 이상을 의미한다. 또한 기사 요약을 자동화하고, 인텔리전스 보고서를 합성하거나, 이미지가 인위적으로 생성되었는지 여부를 판독하여 분석가의 시간을 절약하고 위험을 줄이는 도구도 포함된다. 이러한 보조 모델은 부정확성, 잘못된 정보의 확산, 편견의 존재와 같은 사고율에 비해 본질적으로 챗봇에 비해 훨씬 덜 위험하며, 추가적인 안전장치를 구현하면 그 위험은 계속 감소할 수 있다.

따라서 태스크 포스 리마는 일부 형태의 생성형 AI에 대한 과도한 규제를 피하고 전투원, 분석가, 장교들이 필수적인 도구에 액세스할 수 있도록 다양한 버전의 생성형 AI를 차별화하여 위험이 비례적으로 완화되도록 해야 한다. 고위험 모델에 대한 우려 때문에 저위험 모델의 채택이 늦어져서는 안된다.

리마 태스크 포스는 이러한 저위험 모델의 채택을 가속화하기 위해 업계 모범 사례와 입증된 표준을 신속하게 성문화해야 한다. 일부 기술 기업들은 이미 전문적이고 통제된 작업을 위해 제너레이티브 AI를 안전하게 배포하고 있으며, 모델이 의도한 대로 작동할 수 있도록 안전장치를 구현하고 있다. 이를 임시 표준으로 만들고 구현하면 책임감 있는 배포를 유도하고 기술이 성숙함에 따라 표준을 개선할 수 있는 여지가 생긴다.

휴먼 인 더 루프부터 시작하라. 가장 즉각적인 안전장치는 개발부터 배포, 훈련, 테스트 및 평가, 개선에 이르기까지 모델에 사람이 개입하는 것을 표준화하는 것이다. 학습 단계에서 사람이 데이터 세트의 다양성을 확인하고 데이터에 레이블이 잘못 지정되었을 때 개입할 수 있다. 이러한 개입은 테스트 및 평가 단계의 미세 조정 프로세스와 함께 새로운 데이터가 제시되었을 때 모델이 의도한 대로 작동하도록 하는 데 매우 중요하다.

원본 소스를 인용하여 사용자 신뢰 구축. 모델에 대한 신뢰도를 높이려면 사용자가 모델이 출력을 생성하는 데 사용한 원본 소스를 이해해야 하며, 이를 위해서는 AI가 모든 답변의 표준 부분으로 해당 소스를 나열해야 힌다. 이를 통해 사용자는 수집, 검증 및 필요한 경우 추가 컨텍스트를 위해 기본 소스를 다시 참조할 수 있습니다. 기본적으로 사용자는 "빵 부스러기를 따라갈 수 있습니다."

기업과 협력하여 대규모의 다양한 데이터 소스에 액세스하라. 양질의 소스가 많아질수록 모델의 정확도도 높아진다. 즉, 모델이 다양한 데이터 소스에 액세스할 수 없는 경우 모델의 정확도가 떨어지고 부정확성과 편향의 위험이 높아질 수 있다. 한 단계 더 발전하려면 모델이 다중 모드이거나 텍스트 이외의 다양한 소스 모드를 처리할 수 있어야 한다.

주제별 전문가를 영입하라. AI를 도입하는 기업은 신뢰할 수 있는 제너레이티브 AI 모델에 대한 긍정적인 실적을 입증하는 것도 중요하지만, 특정 분야에 대한 실질적인 지식을 갖춘 실제 사람인 주제별 전문가를 활용할 수 있어야 한다. 예를 들어, 실제 위기 상황을 요약하는 데 주력하는 기업이라면 데이터 과학자 및 엔지니어 팀 외에도 전직 언론인, 지역 및 기능별 분석가, 언어학자를 다수 고용해야 한다. 엔지니어는 전문 지식을 활용하여 사용자 배포 전, 배포 중, 배포 후에 부정확성을 해결할 수 있다.

국방부는 연방 정부가 폐쇄적인 환경과 책임감 있는 방식으로 제너레이티브 AI 기술을 발전시키고 현실적으로 훈련할 수 있는 완벽한 테스트 베드다. 리마 태스크 포스가 명문화하는 지침, 모범 사례 또는 표준이 무엇이든 연방 정부 전체에 공유되어 다른 부서와 기관의 노력을 알려야 한다.

오늘 밤에 싸울 준비를 하려면 국가 안보 커뮤니티는 미국 산업 기반의 강점에 의존하고 혁신의 속도에 맞춰야 한다. 안전장치와 생성형 AI 표준을 신속하게 마련하고 미국 정부 전체에 널리 공유하자. 데이터 혁명과 다음 전쟁에서 승리하려면 우리가 얻을 수 있는 모든 이점이 필요하다.

토니 드마티노는 기술과 국가 안보의 교차점을 전문으로 하는 전략 자문 회사인 팔라스 어드바이저스의 창립 파트너다. 그는 육군 장교로 25년간 복무했으며 이라크와 아프가니스탄에서 5년 이상 전투에 투입되었다. 가장 최근에는 국방부 장관 차관보와 국방부 차관보 보좌관을 역임하며 기술 및 현대화에 중점을 둔 포트폴리오를 구축했다.