미국, 오스트리아, 바레인, 캐나다, 포르투갈과 함께 세계적으로 더 안전한 군사 AI 추진 공동 선도

미 행정부 관리들은 브레이킹 디펜스와의 단독 인터뷰에서 60개국 대표단이 지난 주 DC 외곽에서 만나 군사용 인공지능과 자동화 시스템을 위한 새로운 안전 가드레일을 탐색하기 위한 1년 간의 노력을 이끌 5개국을 선정했다고 밝혔다.

'파이브 아이즈' 파트너인 캐나다와 북대서양조약기구(NATO·나토) 동맹국인 포르투갈, 중동 동맹국인 바레인, 중립국인 오스트리아가 내년 두 번째 글로벌 회의를 위한 국제적 피드백을 수집하는 데 미국과 함께할 예정인데, 이는 인공지능을 보호하기 위한 정부 대 정부의 필수적인 노력이라고 국방부와 국무부 대표들은 말한다.

인공지능이 러시아의 공격용 드론에서 미국의 전투 지휘부에 이르기까지 지구상의 군대로 확산되는 가운데, 바이든 행정부는 "인공지능과 자율성의 책임 있는 군사적 이용"을 전 세계적으로 추진하고 있다. 그것은 미국이 13개월 전 헤이그에서 열린 국제 REAIM 회의에서 발표한 공식적인 정치 선언의 제목이다. 그 이후로 53개국이 서명했다.

바로 지난주, 이들 정부 중 46개국(미국 집계)과 이 선언을 공식적으로 지지하지 않은 또 다른 14개 옵서버 국가들의 대표들이 DC 밖에서 만나 이 선언의 10대 원칙을 어떻게 이행할 것인지를 논의했다.

국방부 전략담당 차관보 대행인 매들린 모르텔만스는 회의가 끝난 뒤 가진 단독 인터뷰에서 브레이킹 디펜스와의 인터뷰에서 "이것이 단순한 서류가 아니라는 것은 주와 국방부 모두에게 정말 중요하다"며 "이것은 국가의 관행과 우리가 약속한 기준을 충족시킬 수 있는 주들의 능력을 어떻게 구축하느냐에 관한 것"이라고 말했다

그녀는 "그렇다고 해서 매우 다른 전략적 문화와 제도, 기술 고도화 수준을 가진 다른 나라들에게 미국의 기준을 부과하는 것은 아니다"라고 강조했다. 기조연설자로 회의를 마친 모르텔만스는 "미국이 확실히 AI에서 앞서 있지만, 우리가 혜택을 받을 수 있는 전문성을 가진 나라들이 많다"며 "예를 들어 우크라이나의 우리 파트너들은 AI와 자율성이 갈등에서 어떻게 적용될 수 있는지 이해하는 데 독특한 경험을 해왔다"고 말했다

"우리는 그것을 자주 말했다… 우리는 좋은 아이디어들에 대한 독점권이 없다"고 기조연설자로 회의를 연 국무부 군비통제, 억제, 안정 차관보 맬로리 스튜어트가 동의했다. 그럼에도 불구하고, 그녀는 브레이킹 디펜스에 "국무부가 그들의 10년 이상의 경험을 제공하는 것은 매우 귀중하다"고 말했다

그래서 60개국에서 온 150명 이상의 대표들이 토론과 발표에 이틀을 보냈을 때, 그 의제는 도널드 트럼프 당시 대통령 하에서 채택된 인공지능 윤리 원칙부터 관계자들을 안내하기 위한 온라인 책임 인공지능 툴킷의 작년 출시까지, 인공지능과 자동화에 대한 국방부의 접근 방식에 집중했다. 그 전체 그룹이 (아직 결정되지 않은 장소에서) 내년에 다시 소집될 때까지 그 추진력을 계속 유지하기 위해, 그 국가들은 시행의 세부사항들을 더 깊이 탐구하기 위해 세 개의 워킹 그룹을 구성했다.

제1그룹: 보증. 미국과 바레인은 기술적으로 가장 복잡한 이 선언의 세 가지 원칙인 "명시적이고, 명확하게 정의된 사용"을 위해 인공지능과 자동화된 시스템을 구축하고, "강력한 테스트"를 통해 실패 또는 "의도하지 않은 행동"에 대한 "적절한 안전장치"를 구축함으로써 인간이 이를 차단할 수 있도록 킬 스위치를 포함한다.

Mortelmans는 Breaking Defense와의 인터뷰에서 이러한 기술 분야는 "특별한 비교 우위, 추가할 수 있는 독특한 가치가 있다고 느꼈다"고 말했다

스튜어트는 자동화된 시스템의 임무를 "sounds는 이론적으로는 매우 기본적"이지만 실제로는 실패하기 쉬운 것이라고 말했다. 그녀는 ChatGPT를 이용해 꾸며낸 사건들을 인용한 표면적으로 그럴듯한 법률 브리핑을 작성한 혐의로 벌금형을 선고받은 변호사들이나 자신의 자녀들이 숙제를 하기 위해 ChatGPT를 사용하려 하고 사용하지 않은 것을 보라"고 말했다. "그리고 이것은 비군사적 맥락이다!" 그녀는 강조했다. "군사적 맥락에서의 위험은 재앙적이다."

두 번째 그룹: 책임. 미국이 그 문제에 그것의 거대한 기술 전문성을 적용하는 반면, 다른 나라들은 인공지능을 보호하는 인력과 제도적인 측면에 집중할 것이다. 캐나다와 포르투갈은 인간적인 차원에 초점을 맞춘 "책임"에 대한 작업을 공동으로 이끌 것이다: 군인들이 그 기술의 "능력과 한계"를 이해하도록 적절하게 훈련을 받고, 그들이 그것이 어떻게 작동하는지를 설명하는 "투명하고 감사할 수 있는" 문서를 가지고 있고, 그들은 "적절한 주의를 행사"한다

세 번째 그룹: 감독. 한편, (적어도 현재로서는 공동 지도자가 없는) 오스트리아가 국제 인도법 준수, 고위 관리들의 감독, 그리고 "의도하지 않은 편견"의 제거와 같은 큰 그림의 정책 문제들을 보면서, "감독"에 대한 워킹 그룹을 이끌 것이다

리얼 월드 구현

이러한 추상적인 원칙의 구현은 실제로 무엇을 의미할까? 아마도 국방부의 최고 디지털 및 인공지능 책임자 (CDAO)가 인공지능 안전 및 윤리를 구현하기 위해 공개적으로 사용 가능하고 심지어 오픈 소스 도구를 개발하기 위한 추진의 일부인 국방부의 온라인 책임 인공지능 툴킷과 같은 것일 것이다.

스튜어트는 CDAO의 수석 설계자인 매튜 쿠안 존슨이 국제 회의에서 "놀라운" 발표를 했다고 강조했다: "그가 툴킷을 둘러보고 질문에 대답하도록 한 것은 정말, 정말로 유용했다."

회의가 끝난 며칠 후, 인공지능에 관한 포토맥 임원 클럽 패널에서 존슨은 "우리는 믿을 수 없을 정도로 긍정적인 피드백을 받았습니다 … 동맹국들은 이것이 정말로 긍정적인 발전이라고 생각한다고 말하고 있었습니다, 그래서 그렇게 많은 자료들과 모범 사례들을 오픈소스화하고 공유하고자 하는 추진력이 있습니다"라고 말했다

존슨은 패널들에게 "정말로 상당한 추진력과 욕구가 있다"고 말했다. "어떻게 이런 종류의 높은 수준의 원칙들로부터… 프로세스들, 벤치마크들, 테스트들, 평가들, 메트릭들을 통해, 여러분이 어떻게 그 원칙들을 따르고 있고 그것들을 실행하고 있는지를 실제로 보여줄 수 있는가."

존슨은 분명히 열광했다. 그는 "국제적인 공간에서 책임 있는 인공지능을 위한 정말 흥미진진한 시기"라며 "CDAO가 가지고 있는 국방 파트너십과 함께 9월에 한국에서 두 번째 REAIM 정상회담이 열리는 등 정치적 선언으로"라고 말했다

그것은 단지 군사적인 측면일 뿐이다. 바이든 행정부는 10월에 인공지능의 연방 사용에 관한 포괄적인 행정 명령을 발표했고, 11월에 인공지능 안전 영장에 관한 대규모의 영국 주도의 블레츨리 선언에 가입했고, 바로 지난주에 유엔 총회에서 지속 가능한 개발을 위한 "안전하고, 안전하며, 신뢰할 수 있는" 인공지능을 요구하는 미국 주도의 결의안을 만장일치로 통과시켰다.

그러나 행정부는 또한 민간과 군사 논의를 구별되게 유지하려고 노력한다. 그것은 부분적으로 군사 인공지능이 더 논란이 많고, 많은 활동가들이 미국, 그것의 동맹국, 그리고 러시아와 중국과 같은 적대국들이 개발할 수 있는 약간의 여유를 원하는 "치명적인 자율 무기 시스템"에 대한 구속력 있는 법적 금지를 요구하기 때문이다.

미 행정부의 한 고위 관리는 지난 주 총회 투표에 앞서 가진 브리핑에서 기자들에게 "우리는 합의에 기초한 유엔 결의안을 추구하면서 군사적 이용에 대한 논의를 포함시키지 않기로 의도적인 선택을 했다"고 말했다. "유엔 시스템을 포함해 다른 곳에서도 그런 대화를 나눌 수 있는 충분한 장소가 있다. 우리는 인공지능의 책임 있는 군사적 이용을 둘러싼 집중적인 일련의 외교적 약속을 가지고 있다."

두 트랙은 평행하되 상호 보완적이라는 의미를 담고 있다. 스튜어트는 브레이킹 디펜스와의 인터뷰에서 "유엔가가 비군사 분야에서 한 걸음을 내딛을 수 있어서 정말 기쁘다"며 "유엔가에 유리하고 시너지 효과를 낼 수 있는 교차 수분의 가능성이 있다"고 말했다

그러나, 그녀는 세계는 아직도 다른 종류의 사람들이 인공지능의 다른 측면들에 대해 논의할 수 있는 뚜렷한 기회를 필요로 한다고 말했다. 유엔은 모든 문제에 대해 모든 국가들을 모은다. REAIM과 같은 군사 인공지능 회의는 활동가들과 다른 비정부 단체들을 포함한다. 그러나 정치 선언과 그것의 실행 과정의 가치는 그것이 정부들이 다른 정부들과 대화하는 것, 구체적으로 군사 지원에 대해, 그리고 비공개로 한다는 것이다.

스튜어트는 "정치선언문은 이를 정부 관점에서 바라본다"며 "우리는 정부가 겪고 있는 도전과 그들이 갖고 있는 의문을 논의할 수 있는 환경에 정말 초점을 맞추고 있다"고 말했다