미 국방부, 책임 있는 AI와 자율성에 대한 국제 협력 구축을 희망

미 국방부가 인공지능과 자율성을 스스로의 책임감 있고 윤리적으로 활용하기 위해 노력하고 있는 가운데, 한 고위 관리는 오늘 국방부가 이 기술들의 군사적 개발에 관한 국제적인 협력을 구축하기를 원하고 있으며, 앞으로 몇 달 안에 수십 개의 국가들을 소집하여 이를 실현할 수 있을 것이라고 말했습니다.

마이클 호로위츠 미 국방부 군사개발·신흥 능력 담당 차관보는 이날 전략국제문제연구소(CSIS) 행사에서 "지난해 2월 출범한 인공지능과 자율성의 책임 있는 군사적 이용에 관한 정치적 선언은 책임 있는 행동에 대한 우리의 약속에 대한 전체적인 윤곽을 보여주는 정말 명백한 증거"라고 말했다.

호로위츠 차관보는 "우리가 추진하고자 하는 종류의 규범은 모든 국가가 뒤쳐질 수 있어야 하는 것이라는 인식이 있다고 생각한다"며 "따라서 국제인도법에 대한 약속과 같은 것들이 포함된다. 시스템에 대한 적절한 시험과 평가와 같은 것들이 포함된다"고 말했다

그는 국무부가 "책임 있는 행동을 중심으로 국제적 합의를 구축하고 국가들의 군사 AI 개발과 배치, 사용을 지도하는 것을 목표로 하고 있다"고 밝힌 이 선언에 러시아와 중국을 제외한 51개국이 서명했다고 언급했다

호로위츠는 "우리는 실제로 정치 선언을 승인한 주들과 2024년 상반기 잠재적인 전체 회의를 위해 노력하고 있으며, 그 전에 더 많은 사람들이 참여하기를 희망하며, 그 후에 모든 사람을 포함한다"고 말했다.

국방부는 국방부 지침 3000.09와 같은 정책, 자율 무기에 대한 부서의 지침 또는 2023년 데이터, 분석 및 AI 채택 전략과 같은 전략을 통해 AI와 자율성의 책임감 있고 윤리적인 사용을 권리화하는 길을 걸어왔다.

2022년 국방부는 오랫동안 기다려온 책임 있는 AI 전략 및 실행 경로를 발표했는데, 이는 미군이 책임 있는 AI를 주요 특징으로 하는 AI 준비 조직으로 변신하지 않고는 경쟁 우위를 유지할 수 없을 것이라고 인정했다. 전략 및 실행 경로 이전에 국방부는 AI의 윤리적 사용을 위한 5가지 광범위한 원칙을 채택했다: 책임감 있는, 공평한, 추적 가능한, 신뢰할 수 있는, 억제할 수 있는.

호로위츠 차관보는 이 정치적 각서가 "바이든 행정부가 특히 지난 몇 달간 국내외적으로 시작한 AI 관련 많은 이니셔티브들과 나란히 서 있다"고 말했다

10월에 조 바이든 대통령은 행정부가 이 기술에 의해 야기되는 위험을 관리하는데 있어 "미국이 앞장서도록" 하기 위해 "AI 안전 분야를 발전시키기 위해 취한 가장 중요한 조치들 중 하나"라고 말한 AI 행정 명령에 서명했다. 행정 명령의 일부로서, 백악관은 "가장 강력한 AI 시스템의 개발자들이 그들의 안전 시험 결과와 다른 중요한 정보를 미국 정부와 공유하도록" 지시했고 연방 기관들이 AI 사용에 대한 지침을 받을 것이라고 지시했다.