밀리터리 관련 보도 및 소식이 올라오는 게시판입니다.
기타

미 국방부의 명확한 AI 정책으로 로봇 무기에 대한 '청신호'가 켜졌다고

폴라리스 폴라리스 69

0

0
출처 https://breakingdefense.com/2023/02/dods...s-experts/

로봇 무기를 연구하는 미 국방부 관계자에게는 언뜻 보기에 '무기 시스템의 자율성'에 관한 최근 국방부 정책의 재작성이 터미네이터처럼 위협적으로 보일 수 있다. 원래 15페이지 분량이었던 이 정책은 24페이지로 확장되어 새로운 무기 프로그램이 준수해야 할 윤리적 원칙에 대한 단락, 공무원이 거쳐야 하는 승인/불승인 결정의 전체 흐름도, 이 모든 것을 감독할 새로운 관료 조직인 자율 무기 시스템 워킹 그룹이 추가되었다.


그러나 옹호론자들과 전문가들은 개정된 정책이 R2-D2에 더 가깝고 유용하며 멋진 트릭으로 가득 차 있다고 Breaking Defense에 말했다. 2023년 개정된 국방부 지침 3000.09는 자율 무기 개발에 큰 제한을 두지 않으면서도 명확한 설명, 편리한 순서도, 중앙 정보 센터로서의 워킹 그룹을 추가함으로써 2012년에 처음 제시된 모호한 검토 절차를 실제로 수행할 수 있는 명확한 절차로 전환했다.

군비통제협회의 선임 객원 연구원 마이클 클레어는 "한편으로는 통제와 규제의 층이 더 늘어나는 것 같아서 부담스럽게 들릴 수 있습니다."라고 말했다. "반면에 지휘관과 프로젝트 관리자는 어떤 절차를 거쳐야 하고 어떤 기준을 충족해야 하는지 명확하게 이해하고 진행할 수 있기 때문에 이 지침은 청신호를 의미한다고 생각합니다."


그는 "이전 지침에서는 모호한 부분이 더 많았습니다."라고 말했다. "이제 더 쉬워졌습니다."


지금까지 국방부가 실제로 자동화된 무기 시스템을 검토 과정을 거친 적이 있는지 여부는 불분명하다.2019 년 대변인은 Breaking Defense에 "현재까지 국방부 지침 3000.09에 따라 고위 검토를 받아야하는 무기는 없습니다."라고 말했다. 이는 두 가지 중 하나를 의미한다: 어떤 제안된 프로그램도 검토를 유발하는 높은 수준의 자율성과 살상 가능성을 모두 갖춘 특성이 결합된 프로그램이 없거나, 그러한 프로그램이 애초에 검토 절차를 거치지 않아도 되는 면제를 받았거나 둘 중 하나다. 이 정책은 새 버전과 이전 버전 모두에서 국방부 차관이 "긴급한 군사적 필요가 있는 경우" 검토의 대부분을 면제할 수 있다고 명시하고 있다.

그러나 최근 미 국방부의 성명은 좀 더 모호해졌다. 1월 30일 '킬러 로봇 저지 캠페인' 관련 단체를 대상으로 한 브리핑에서 이 단체의 창립 코디네이터인 메리 웨어햄은 국방부가 특정 무기에 대해 언급할 수 없다는 입장을 밝혔다고 말했다. 이는 2019년 성명의 명확성과는 극명한 대조를 이룹니다. 국방부는 이 정책에 대한 브레이킹 디펜스의 재차 질문에 아직 답변하지 않았다.


어쨌든, 관료적 절차가 복잡함에도 불구하고 개정된 3000.09는 자율 무기 개발 및 배치 승인을 받는 절차를 더 어렵지 않고 더 쉽게 만드는 방식으로 명확히 하고 있다고 전문가들은 말한다. 무엇보다도 미군이 러시아와 중국의 AI 및 로봇 공학 노력에 뒤처지는 것이 걱정된다면 좋은 소식이다. 군비 통제가 주된 관심사라면 그다지 반가운 소식은 아니다.


웨어햄은  "이 지침은 자제 정책이 아닙니다."라고 말했다. "이 지침은 기존의 법적 규칙과 윤리적 원칙에 따라 수행되는 한 미국의 자율 무기 시스템 개발을 촉진합니다. 이 지침은 확산을 억제하는 데 아무런 도움이 되지 않습니다."


새로운 미국 안보 센터의 연구 책임자이자 군용 드론과 AI의 오랜 지지자인 폴 샤레는 "이전 지침은 기본적으로 특정 시스템에 대한 승인을 받으려면 검토 절차를 거쳐야 한다고 명시했지만, 그 절차에 대한 설명은 없었습니다."라고 말했다. "무엇을 해야 하는지, 누구와 이야기해야 하는지, 이 과정을 어떻게 진행해야 하는지 명확하지 않았습니다."


그는 개정된 지침이 "이러한 검토 프로세스를 실제로 실행할 수 있는 메커니즘을 마련하고 있다"고 Breaking Defense에 말했다. (샤레는 새 버전의 변경 사항을 한 줄씩 분석하여 게시했다).


1월 기자들을 대상으로 한 브리핑에서 국방부의 "신흥 역량 정책" 책임자인 마이클 호로위츠는 2012년 버전의 DODD 3000.09에 대해 "비교적 사소한 설명과 개선"이라고 경시했다.


호로위츠는 "이 지침이 발표된 지 10년이 지났고 국방부는 10년마다 지침을 재발행, 업데이트 또는 취소해야 할 의무가 있습니다."라고 말했다. "이번 발표는 국방부 관료주의의 타임라인에 따라 결정되었습니다."


호로위츠는 이 정책이 적용되지 않는 부분에 대해서도 솔직하게 밝혔다. "이 지침은 특정 무기 체계의 개발을 금지하지 않습니다."라고 그는 말했다.


그는 또한 "분명히 말하지만, 이 법안은 S&T를 포함하지도, 포함하지도 않습니다."라고 덧붙였다. 이는 실험실 작업, 사전 프로토타입 및 현장 실험의 과학 및 기술 단계이며, 공군의 협업 전투기나 해군의 씨 헌터 및 오버로드 무인 함정처럼 가장 진보된 자율 무기 프로그램조차도 아직 실험 단계에 있다.


그러나 무기 프로그램이 S&T에서 벗어나기 위해서는 원래의 정책과 수정된 정책 모두 "두 단계의 검토가 필요하다"고 호로위츠는 설명한다: "공식적인 개발이 시작되기 전에 한 번," 즉 국방부가 마일스톤 B라고 부르는 "한 번의 검토"와 "실전 배치 전에 한 번"이 그것입니다. 호로위츠 차관이 언급하지는 않았지만, "긴급한 군사적 필요가 있는 경우" 차관은 두 검토 중 하나 또는 두 가지 검토를 모두 면제할 수 있다.


개정된 지침 3000.09는 2020년에 국방부가 채택한 AI 윤리 원칙의 내용을 통합하고 있으며, 지난 6월에 발표된 책임 있는 AI 전략 및 실행 정책을 준수할 것을 요구한다. 윤리 원칙에 따르면 모든 AI 프로그램은 '책임감', '공평성', '추적 가능성', '신뢰성', '관리 가능성'을 갖춰야 하며, 간단히 말해 ChatGPT와 같은 머신러닝 알고리즘이 악명 높은 편향되거나 명백한 허위 결과를 생성하는 블랙박스가 아니어야 한다. 그런 다음 이 전략은 이러한 원칙을 평가 기준, 연구 우선순위, 심지어 재사용 가능하고 신뢰할 수 있는 코드로 전환하려고 시도한다. (참고로 'AI'와 '자율성'은 동의어가 아닙니다. 모든 또는 대부분의 자율성이 완전한 AI는 아닙니다).


개정된 지침은 2018년 획득, 기술 및 물류 차관이 두 개로 나뉜 이후 다양한 공무원의 책임도 업데이트했다. 관료적 관점에서 가장 중요한 것은 실제로 검토를 수행하는 방법에 대해 최고 관리에게 조언하는 상설 실무 그룹이 만들어졌다는 것이다.


조지 메이슨 대학교의 정책 연구원인 재커리 칼렌본은 이러한 종류의 인력이 관료적 절차가 원활하게 작동하는 데 필수적이라고 말한다. "실무 그룹에 누가 참여하고 어떻게 활용되는지에 따라 많이 달라지지만, 관련된 정책 문제는 매우 복잡하고 고도로 기술적이며 상황에 따라 달라지는 경우가 많기 때문에 유용해 보입니다."라고 그는 Breaking Defense에 말했다. "해저에서 잠수함을 사냥하는 드론, DARPA의 대규모 군집 드론, 대포를 쏘는 로봇 개 스팟의 위험과 방어 가치는 어떻게 다를까요?"


칼렌본은 개정된 지침 3000.09에 몇 가지 미묘한 사항이 추가되어 치명적인 로봇 스팟을 개발하기가 더 쉬워졌다고 말한다. 2023년 버전에 따르면 무인 차량을 보호하는 자기 방어 시스템은 사람이 아닌 장비를 표적으로 하는 한 검토 대상에서 제외되었다: "고위 검토가 필요하지 않은 무기 시스템에는 작전 배치된 원격 조종 또는 자율 차량 및/또는 선박을 방어하기 위해 물질 표적을 선택하고 교전하는 데 사용되는 운영자 감독 자율 무기 시스템이 포함됩니다."라고 명시되어 있다.


"이는 흥미롭고 일반적으로 자율 무기 사용이 훨씬 쉬워질 것입니다."라고 그는 말했다. "'방어'라는 단어는 엄청난 일을 하고 있다. 드론이 적의 영토에서 작동하는 경우 거의 모든 무기가 플랫폼을 '방어'하는 것으로 해석될 수 있다. 보급품을 운반하는 로봇 개가 공격을 받을 수 있으므로 스팟에게 스스로를 방어할 수 있는 자율 대포를 부여하는 것은 상부의 승인을 필요로 하지 않는다. 스팟이 적 탱크 진형 근처를 돌아다닐 경우 스팟이 인간을 겨냥하지 않는 한 스팟은 싸울 수 있습니다."


물론 적 전차에는 사람이 타고 있는 경우가 많다. 칼렌본은 "모호한 부분이 많이 있습니다."라고 말했다.


개정된 지침은 다른 종류의 자율 무기 개발도 용이하게 한다고 폴 샤레는 말했다. 예를 들어 육군의 패트리어트나 해군의 이지스 같은 대공/대미사일 시스템에는 빠르게 움직이는 위협에 대응하기 위한 완전 자동화 모드가 있는 경우가 많다. 이 모드에서는 사람이 직접 표적을 선택해 발사하는 것보다 훨씬 빠른 속도로 컴퓨터가 알아서 발사하도록 지시한다. 지침 3000.09의 2012년 버전과 2023년 버전 모두에서 "시간이 촉박하거나 포화 상태인 공격"에 대한 이러한 자율 방어는 검토 대상에서 제외되었다. 그러나 2023년 업데이트에서는 이러한 면제가 "자율 무기 시스템이 함께 배치되지 않은 네트워크 방어"로 확대되었다.


즉, 인간 감독자와 자율 방어 시스템이 더 이상 같은 장소에 있을 필요가 없다. 이는 방어를 분산하고 네트워크를 통해 광범위하게 분산된 무기를 운영하려는 미 국방부의 노력에 부합하는 것이다. 새로운 규칙에 따르면 네트워크가 다운되어 원격 운영자가 상황을 확인하거나 명령을 내릴 수 없고 현장에 사람이 없어도 무기는 계속 발사할 수 있다. 따라서 적이 미사일 공격 전에 미국 네트워크를 교란하거나 해킹하면 인명을 구할 수 있고, 2003년 패트리어트 발사대처럼 기술적 결함으로 인해 시스템이 오작동하면 인명 피해가 발생할 수 있다.


웨어햄은 군비 통제의 관점에서 볼 때 개정된 정책에 대해 "적절한 대응이 아니다"라고 말했다.

신고
0




    


댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?

목록
번호 분류 제목 글쓴이 날짜 추천 조회
공지 2023년 하반기 개편 안내 (레벨 시스템 추가) 9 Mi_Dork 23.07.13.09:07 +1 3722
공지 밀리돔 후원 요청 (2023-06-23) 28 운영자 14.01.24.20:42 +13 38570
26061 기타
normal
폴라리스 24.02.21.00:01 0 72
26060 육상체계
normal
폴라리스 24.02.20.23:59 0 132
26059 기타
normal
폴라리스 24.02.20.23:59 0 69
26058 기타
normal
폴라리스 24.02.20.23:58 0 165
26057 해상체계
normal
폴라리스 24.02.20.23:58 0 88
26056 해상체계
normal
폴라리스 24.02.20.23:58 0 64
26055 유도무기
normal
폴라리스 24.02.20.23:57 0 60
26054 공중체계
normal
폴라리스 24.02.20.23:57 0 69
26053 유도무기
normal
폴라리스 24.02.19.21:17 0 165
26052 기타
normal
폴라리스 24.02.19.21:16 0 61
26051 해상체계
normal
폴라리스 24.02.19.21:16 0 111
26050 공중체계
normal
폴라리스 24.02.19.21:15 0 121
26049 공중체계
normal
폴라리스 24.02.19.21:15 0 314
26048 개인장비
normal
폴라리스 24.02.19.21:15 0 203
26047 공중체계
normal
폴라리스 24.02.17.21:50 +1 150
26046 기타
normal
폴라리스 24.02.17.21:50 0 48
26045 기타
normal
폴라리스 24.02.17.21:49 0 127
26044 육상체계
normal
폴라리스 24.02.17.21:49 0 108
26043 해상체계
normal
폴라리스 24.02.17.21:47 0 203
26042 기타
normal
폴라리스 24.02.17.21:46 0 51

밀리돔 | milidom 의 저작물은 다음의 사이트 이용 약관 에 의거해 이용 가능합니다.
이 라이선스의 범위 이외의 이용허락은 운영진에게 문의 하시기 바랍니다.