미 국방부 R&D 책임자, 국방부 AI 기술의 기술적 기준선 소유가 목표

"몇 주 안에" 국방, 산업 및 학계의 주요 인사들에게 "신뢰할 수 있는 AI와 자율성"에 관한 최초의 국방부 주최 컨퍼런스에 대한 초대장이 발송될 것이라고 주요 주최자 중 한 명이 Breaking Defense와의 독점 인터뷰에서 말했다. 중요한 질문: 국방부가 미래의 다양한 임무에서 AI에 의존할 수 있을까?

국방부의 핵심 기술 담당 부차관보인 메이나드 홀리데이는 국방부가 AI의 여러 측면에서 빠르게 발전하는 민간 부문을 따라잡고 있다는 사실을 잘 알고 있다고 인정했다. 이번 컨퍼런스의 가장 큰 목적은 최첨단에서 일어나는 일을 더 잘 이해하는 것뿐만 아니라 군이 신뢰할 수 있고 통제할 수 있는 AI 기능을 구축하기 위해 상용 기술을 채택하고 적용하는 방법을 모색하는 것이다.

"우리는 빠르게 따라가야 한다는 것을 알고 있지만, 이러한 상용 기술의 군 전용 애플리케이션도 개발해야 하며, 라플란트 차관이 과거에 말했듯이 이러한 기술의 기술적 기준을 소유해야 공급업체에 종속되어 한 공급업체에 종속되어 역량을 발전시키는 것이 아니라 군사적으로 특정한 솔루션으로 발전하는 것을 통제할 수 있습니다."

"여기서 '기술 기준선'은 단순한 은유가 아니다: 복잡한 시스템을 정의하는 기초적인 세부 사항을 가리키는 전문 용어로, 초기 요구 사항 초안 작성부터 여러 차례의 검토를 거쳐 최종 제품까지, 또는 계속 진화하는 소프트웨어의 경우 지속적인 업그레이드 주기를 통해 설계 및 개발을 안내한다.

그러나 통제에 대한 국방부의 열망은 영업 비밀을 유지하려는 AI 혁신가들의 열망과 상충되는 측면이 있다. 예를 들어 OpenAi는 최신 봇인 ChatGPT-4를 어떻게 구축했는지에 대한 데이터를 거의 공개하지 않고 있다. 게다가 ChatGPT의 알고리즘은 회사 자체 서버에서 실행됩니다. 사용자는 자신이 보낸 쿼리와 응답만 볼 수 있으며, AI 내부에서 일어나는 복잡한 프로세스는 볼 수 없다. 이러한 클라우드 기반 접근 방식은 고객이 직접 소유하고 다운로드하여 자신의 컴퓨터에서 실행하는 소프트웨어를 판매하는 대신 '서비스로서의 소프트웨어'를 제공하는 기업이 점점 더 많아지고 있기 때문에 OpenAI만의 고유한 방식도 아니다.

그렇다면 국방부는 기술 기반을 소유하고자 하는 욕구와 지적 재산 보호에 대한 민간 업계의 집착을 어떻게 조화시킬 수 있을까?

홀리데이는 "좋은 질문"이라고 인정했다. 그는 해결책의 일환으로 "우리의 정보와 전문 용어로 업데이트된 군사적으로 특화된 국방부 고유의 데이터 코퍼스를 개발하여 원활하게 상호 작용할 수 있고 신뢰할 수 있도록 해야 한다"고 말했다.

6월 20일부터 22일까지 버지니아주 맥린의 MITRE 시설에서 열릴 예정인 이 컨퍼런스는 홀리데이의 상사인 국방부 R&D 책임자 하이디 슈유가 주최할 예정이다. 참석자들은 또한 빌 라플란테 국방부 획득차관보와 크레이그 마텔 최고 데이터 및 AI 책임자로부터 이야기를 듣게 될 것입니다. 하지만 국방부 리더들이 AI 혁명을 주도하고 있는 정부 외부의 혁신가들의 이야기를 듣는 것도 마찬가지로 중요할 것이다.

"그물망은 산업, 학계, 국방 부문을 포괄하는 광범위한 것이 될 것입니다."라고 홀리데이는 말했다. 그는 참모들이 아직 참석자 명단을 작성 중이지만 "세 자릿수"의 참석자가 참석할 것으로 예상하고 있다고 말했다.

 

 

ChatGPT 그 이상: 신뢰 구축

홀리데이에 따르면 컨퍼런스 준비 작업은 작년 말부터 시작되었으며, 슈유 차관은 11월 조지메이슨대학교 포럼에서 이 컨퍼런스를 처음 공개적으로 언급했다. 그 달의 마지막 날에 OpenAI는 일관되고 그럴듯한 문단 길이의 답변을 생성하는 능력(때로는 '환각'이라고 불리는 기이한 오류로 가득 차 있음)을 갖춘 대규모 언어 모델(LLM)인 ChatGPT를 출시하여 AI에 대한 기대와 불안감을 모두 고조시켰다.

홀리데이는 지난달 포토맥 장교 클럽 행사에서 ChatGPT와 같은 '생성형 인공 지능'의 위험성과 잠재력을 살펴볼 것이라고 말했다. 그러나 Breaking Defense와의 인터뷰에서 그는 의제가 훨씬 더 광범위하다는 점을 분명히 했다.

홀리데이는 "앞으로 인공 지능의 환각적 경향을 어떻게 완화할 것인지, 인공 지능에 대한 쿼리 결과를 더 신뢰할 수 있도록 하기 위해 무엇을 할 수 있는지에 대해 논의할 것입니다."라고 말했다. 이 외에도 사이버 보안, 지휘 시스템, 자율 무기의 제어, 신뢰성, 윤리에 관한 국방부의 최근 개정된 정책 지침 등 다양한 주제가 논의될 예정이다.

사실 제너레이티브 AI라는 특정 영역 내에서도 LLM은 홀리데이가 논의하고자 하는 더 다양한 알고리즘의 일부일 뿐이다. ChatGPT와 다른 언어 모델은 텍스트를 이해하고 생성할 수 있지만, 다른 알고리즘은 수천 장의 사진을 스캔한 다음 이전에 본 적이 없는 이미지를 생성할 수 있다. 가장 유명하고 논란의 여지가 있는 예로는 Stable Diffusion과 OpenAI의 자체 DALL-E와 같은 아트 제너레이터가 있지만, 알고리즘은 잠재적으로 여러 유형의 인텔리전스 센서의 데이터를 결합하여 사람의 눈으로 이해할 수 있는 단일 그림으로 만들 수 있다.

홀리데이는 "생성형 AI는 여러 양식을 넘나듭니다."라고 말했다. "우리는 전자 광학, 적외선, 사이버 [데이터]를 결합하고자 합니다. 바로 그 지점에서 정말 강력해집니다."

이러한 방식으로 "서로 다른 양식을 결합"하는 것도 환각을 줄이는 열쇠가 될 수 있으며, 각 유형의 입력이 다른 모든 입력에 대한 교차 검사 역할을 할 수 있다고 Hollay는 제안했다.

그는 생성형 AI를 신뢰할 수 있게 만들 수 있다면 국방부가 "의사 결정 지원"이라고 부르는 분야에 엄청난 잠재력이 있다고 말했다. 즉, 정책 입안자와 지휘관이 끊임없이 변화하는 방대한 양의 데이터를 이해하는 데 도움을 줄 뿐만 아니라 실제로 문제가 있는 조달 계약을 재구성하거나 특정 미사일을 우선 목표물에 발사하는 등 잠재적인 행동 방침을 생성할 수 있다.

홀리데이는 이러한 생성형 AI에 입력되는 정보에는 위협에 대한 인텔리전스와 아군의 '킬 웹'(적에게 치명적이거나 무력화시킬 수 있는 네트워크 센서, 무기, 재머 및 기타 시스템)의 현재 상태가 포함될 수 있다고 설명했다. 이렇게 생성된 결과물은 지휘관에게 '옵션'이 될 것이라고 그는 말했습니다. 이러한 종류의 AI 지원 '전투 관리'는 국방부가 광범위하게 추진하고 있는 합동 전 영역 지휘 및 통제(JADC2) 노력의 핵심 목표다.

 

 

신뢰를 얻기 위한 긴 여정

홀리데이는 AI의 한계에 대해 수년 동안 군인들이 고민해 왔지만, 이 문제를 "결정적으로" 부각시킨 것은 자신이 자문위원으로 참여한 국방과학위원회의 자율성에 관한 획기적인 연구에 대한 반응이었다고 말했다. 이 연구는 현재 제너레이티브 AI가 붐을 일으키기 훨씬 전인 2015년과 2016년에 수행되었다.

"당시 전투사령부에 이 연구 결과를 브리핑했을 때, 그들은 '그래, AI도 좋고 자율성도 좋지만 그거 아시나요? 신뢰할 수 없다면 절대 사용하지 않을 것'이라고 말했습니다."라고 홀리데이는 회상했다.

그는 "지휘관과 최전방에 내려가 시스템을 쿼리하여 상황을 파악하는 데 익숙해지려면 상당한 시간이 걸릴 것입니다."라고 말했다. "지휘관은 AI가 알려주는 내용이 실제로 전장에서 벌어지고 있는 일인지 확인할 수 있어야 합니다."

하지만 점점 더 많은 중요한 임무에서 AI를 대체할 수 있는 방법은 없을지도 모른다고 홀리데이는 말했다. 특히 미사일 방어와 사이버 보안은 위협이 너무 빠르게 진행되어 인간이 제때 대응할 수 없는 분야다.

"우리는 미래의 전투에서 초음속, 지향성 에너지, 사이버 효과 등 우리가 직면하게 될 무기 시스템이 인간의 의사 결정보다 더 빠르게 움직일 것이므로 적절한 방어를 위해서는 기계 속도로 대응할 수 있어야 하기 때문에 어떤 형태의 [AI]에 의존해야 할 것임을 알고 있습니다."라고 그는 말했다.

홀리데이는 일부에서 구상하는 것처럼 공격과 방어를 포함한 전체 전투를 AI가 주도하는 수준까지는 이르지 못할 수도 있다고 말했다. 하지만 그는 "최소한 방어 수준에서는 어느 정도의 자율성을 확보해야 적들이 이러한 기능을 사용할 경우 기계의 속도로 대응할 수 있을 것"이라고 강조했다.

그렇다면 어떻게 하면 생사를 가르는 결정을 신뢰할 수 있을 만큼 AI를 신뢰할 수 있게 만들 수 있을까? 홀리데이는 "연구 커뮤니티에서 인간의 피드백을 통한 강화 학습과 체질적 AI 등 여러 가지 방법을 모색하고 있습니다."라고 말했다.

인간의 피드백을 통한 강화 학습(RLHF)은 이미 ChatGPT 및 기타 생성형 AI에 사용되고 있다. RLHF는 기본적으로 사람이 AI의 결과물(인간의 피드백)을 평가하고, AI는 좋은 평가를 받은 것은 더 많이 하고(강화), 나쁜 평가를 받은 것은 덜 하도록 인센티브를 받는다. 그러나 RLHF는 노동 집약적이며 ChatGPT 환각에서 알 수 있듯이 사람에 의존하기 때문에 모든 나쁜 행동을 예방하지는 못할 수도 있다.

홀리데이는 "배심원단은 아직 나오지 않았다"고 인정했다. "사람의 피드백으로 이러한 종류의 데이터 학습을 수행하려면 비용이 많이 들고, 그 피드백이 학습 세트에 포함될 때 사람의 편견에 노출되기 쉽습니다."

이와는 대조적으로, 구성적 AI는 기계가 읽을 수 있는 용어로 일련의 원칙을 작성하기 위해 처음에 사람의 개입이 필요하지만, 컴퓨터화된 '구성'을 사용하여 AI의 결과물을 자동으로 좋은지 나쁜지 평가함으로써, 본질적으로 사람이 일일이 평가하지 않고 한 알고리즘이 다른 알고리즘을 훈련시킨다. 따라서 체질 AI는 RLHF보다 더 빠르고 저렴하지만 여전히 완벽하지는 않다.

"홀리데이는 "정확도는 계속 올라가고 있지만... 100%, 심지어 99%의 정확도를 가진 AI에 도달하기는 어려울 것 같습니다."라고 말했다.

"우리는 사람들이 익숙해지도록 어느 정도의 위험 비율과 정확도 비율을 할당해야 할 것입니다."라고 그는 말했다.