40여 개국이 군사용 '책임감 있는 AI'를 논의하기 위해 워싱턴에 모일 예정

미 국무부가 헤이그에서 열린 국제회의에서 윤리적 군사 AI에 관한 정치선언을 발표한 지 13개월 만에 서명한 각국 대표들이 워싱턴 밖에 모여 다음 조치를 논의할 예정이다.

국무부의 한 고위 관리는 브레이킹 디펜스에 "53개국 중 적어도 42개국에서 100명 이상의 참가자가 왔다"며 처음으로 이 행사의 세부사항을 공유하기 위해 배경에서 말했다. 군 장교와 민간 관리가 혼합된 이 대표단은 3월 19일과 20일 메릴랜드 대학의 칼리지 파크 캠퍼스에서 열리는 비공개 회의에서 만날 예정이다,

이 관계자는 "우리는 국가들이 책임 있는 AI 문제에 초점을 맞추고 실질적인 역량을 구축하는 데 정말 집중할 수 있는 시스템을 갖추고 싶다"고 말했다.

의제는 인공지능의 모든 군사적 적용, 무인 무기와 전투 네트워크, ChatGPT와 같은 생성적 인공지능, 사이버 보안, 물류, 유지보수, 인사 관리 등을 위한 백오피스 시스템이다. 목표는 모범 사례를 공유하고, 국방부의 온라인 책임형 인공지능 툴킷과 같은 모델에 대해 논의하며, 그들의 정부로 돌아가기 위해 인공지능 정책에 대한 그들의 개인적인 전문 지식을 쌓는 것이다.

그 cross-pollination은 미국과 같은 기술 지도자들이 정책을 다듬는 데 도움이 될 것이며, 또한 덜 부유한 국가의 기술 추종자들이 군사 인공지능에 투자하기 전에 "문제를 진전"하도록 도울 것이다.

이는 단순한 외교관들의 대화방이 아니라고 이 국무부 관리는 강조했다. 다음 주 회의에는 군과 민간 대표단이 섞여 있으며 외교부 뿐 아니라 많은 나라에서 볼 수 있는 독립적인 과학기술 기관들에서도 민간인들이 온다. 이 관리는 회의를 조직하는 바로 그 과정이 회원국들로 하여금 누구를 보낼지 또 어떤 기관들이 대표되어야 하는지를 결정하도록 요구함으로써 유용한 강제 기능을 했다고 말했다.

국무부는 이번 회의가 전 세계의 회원국들이 주최하는 무기한 연례 회의 중 첫 번째가 되기를 원한다. 이 총회 사이에, 국무부 관리는 비슷한 생각을 가진 국가들의 소규모 그룹들이 그 선언의 10대 원칙을 이행하기 위해 "그 문제에 대한 인식을 높이고 몇 가지 구체적인 조치를 취하기 위한 어떤 것이든" 교류, 워크숍, 전쟁 게임 등을 위해 모여야 한다고 설명했다. 소규모 그룹들은 그 후 매년 열리는 전체 회의에 보고할 것인데, 이 회의는 교훈을 체계화하고, 앞으로 나아갈 길을 논의하며, 내년의 의제를 정할 것이다.

이 관계자는 "우리는 다양한 관점, 다양한 경험을 중시하고 있으며, 선언에 찬성하는 국가들의 명단은 이를 반영하고 있다"며 "우리는 정치 선언에 대한 우리의 지지의 폭과 깊이에 매우 만족해왔다"고 말했다.

이 당국자는 불과 몇 달 전인 11월에 발표된 46개국(미국 포함)보다 늘어난 53개국이 이제 합류했다고 말했다. "그 목록을 잘 보라: 그것은 미국-NATO '보통 용의자' 목록이 아니다."

가입한 국가는 확실히 다양하다. 일본과 독일 같은 미국의 핵심 동맹국, 나토 파트너인 튀르키예와 헝가리, 오스트리아, 바레인, 싱가포르 같은 부유한 중립국, 평화주의자인 뉴질랜드, 전쟁 중인 우크라이나(AI 유도 공격 드론을 실험한 바 있음), 아프리카 3개국 라이베리아, 리비아, 말라위, 심지어 작은 산마리노까지 포함되어 있다. 그러나 중국, 러시아, 이란, 북한 등 오랫동안 미국의 위협 평가를 주도해 온 '네 마리의 기수'는 물론, (미국의 오랜 방위 구애에도 불구하고) 독립적인 국가로 악명 높은 인도와 대부분의 아랍 및 무슬림 다수 국가도 불참한 것이 주목할 만하다.

그렇다고 이들 국가와 대화가 없었던 것은 아니다. 불과 몇 주 차이로 지난 11월, 중국은 영국에서 열린 AI 안전 정상회의에서 미국과 함께 군사뿐만 아니라 AI 전반에 걸친 광범위한 블레츨리 선언에 서명했고, 시진핑 중국 국가주석은 캘리포니아에서 열린 정상회담 후 조 바이든 미국 대통령이 "인공지능과 관련된 위험 및 안전 문제"라고 설명한 것에 대한 모호한 논의에 동의했다. 중국과 러시아는 모두 '치명적 자율 무기 시스템'(LAWS)에 관한 유엔 정부 전문가 그룹(GGE)의 정기 제네바 회의에 참여하고 있지만, '킬러 로봇' 금지를 목표로 하는 활동가들은 이러한 논의가 오래 전부터 중단되었다고 말했다.

이 국무부 관리는 미국이 주도하는 과정이 유엔 협상을 우회하거나 약화시키려는 시도가 아니라고 조심스럽게 말했다. 그들은 "그것들은 중요한 논의들이고, 생산적인 논의들이지만 모두가 동의하는 것은 아니다"라고 말했다. "우리는 법률의 맥락에서 의견충돌이 계속될 것이라는 것을 알고 있지만, 나는 우리가 할 수 있는 다른 장소들과 다른 문제들에서 그 의견충돌들이 우리를 "집단적으로, 우리가 할 수 있는 곳에서 진전을 이루도록" 내버려 두라는 조언을 잘 받지 못한다고 생각한다.

사실, 그것은 미래지향적인 "킬러 로봇"과 스카이넷 스타일의 슈퍼컴퓨터뿐만 아니라 덜 극적이지만 오늘날 이미 일어나고 있는 인공지능의 다른 군사적 사용을 다룬다는 미 국방부의 정치적 선언과 그로부터 도출된 인공지능 윤리에 대한 미 국방부의 접근법의 특징이다. 그것은 일상적인 인공지능의 행정과 예측 유지보수와 같은 산업적 적용을 포함한다. 그러나 그것은 또한 미국 프로젝트 메이븐과 이스라엘 복음서 (합소라)와 같은 치명적인 타격을 위한 목표를 지정하는 것을 돕는 군사 정보 인공지능을 포함한다.

인공지능의 이 모든 다양한 응용 프로그램은 군사 작전을 더 효율적으로 만들 뿐만 아니라 더 인간적으로 만들기 위해 사용될 수 있다고 미국 관리들은 오랫동안 주장해 왔다. "우리는 이 기술에서 엄청난 가능성을 봅니다."라고 미국 관리가 말했다. "우리는 엄청난 이점을 봅니다. 우리는 이것이 국가들이 IHL [국제 인도법] 의무를 이행하도록 도울 것이라고 생각합니다… 그래서 우리는 잠재적인 하방 위험을 최소화하면서 그러한 이점을 최대화하기를 원합니다."

그것은 군사 AI의 "수변을 가로질러" 규범과 모범 사례를 확립할 필요가 있다고 미국 정부는 믿고 있다. 이 관계자는 "백오피스 AI라도 어떻게 책임 있는 방식으로 사용할 것인지에 대한 공감대를 가질 필요성을 추정하지 않는 것이 중요하다"며 "국제법적 검토, 적절한 훈련, 감사 가능한 방법론 등"이라고 말했다. 이는 백오피스든 전장이든 AI의 모든 응용 분야에 적용될 수 있는 근본적인 책임 원칙이다