인공지능 개발이 드론 전쟁에 미치는 영향

지난 20년 동안, 무인 전투 및 정찰 시스템은 소수의 군대에 의해 행해지는 이국적인 능력에서 국가 및 비국가 행위자들에 의해 전 세계적으로 군사적 충돌의 어디에나 있는 필수 요소로 발전했다. 기술의 발전으로 오늘날 드론 전쟁에서 AI의 영향을 연구하는 것은 흥미롭다

센서와 인공지능의 발전으로 점점 더 많은 무인 시스템이 인간 운영자의 훨씬 더 제한된 방향으로 임무를 수행할 수 있게 될 것이기 때문에 우리는 무인 전쟁에서 새로운 혁명의 정점에 놓여 있다. 이 우물 바다 변화의 결실은 수백 또는 수천 달러의 비용이 드는 소형 드론과 수백만 달러의 비용이 드는 항공기, 선박 및 장갑차에 영향을 미칠 것이다.

이미 원격 제어에 의존하는 전통적인 무인 시스템은 일반적으로 인간 운영자의 생명에 대한 위험 감소, 낮은 조달 및 운영 비용, 더 큰 잠재적 내구성, 그리고 전통적인 수단으로는 비현실적이거나 불가능할 수 있는 임무를 수행할 수 있는 능력과 같은 몇 가지 게임을 변화시키는 특성을 나타낸다.

자율성은 위성과 통신 링크에 접근하지 않고 임무를 수행할 수 있는 가능성, 인간의 반응 속도와 정신적인 작업 제한을 초과할 수 있는 능력, 그리고 드론이 다른 드론과 협력하고 잠재적으로 군집으로 작동할 수 있는 가능성과 같은 또 다른 특징들을 가지고 있다.

물론 많은 리모컨과 심지어 유인 플랫폼도 이미 자동 이착륙 시스템, 지상 충돌 회피, 웨이포인트 탐색, 통신 링크가 끊겼을 때를 위한 비상 착륙 또는 기지 복귀 알고리즘과 같은 자율 기능을 포함하고 있다. 그러나 새로운 AI 에이전트는 사람의 입력을 훨씬 덜 요구하면서 훨씬 더 복잡한 전체 임무 작업을 가능하게 한다.

고도의 자율성은 개발하기 쉽지 않지만, 디지털 제품으로서 일단 완벽해지면 재현성이 높고 매우 작고 저렴한 플랫폼뿐만 아니라 정교한 플랫폼에도 적용될 수 있다. 물론 특정 자율성 지원자들, 즉 내비게이션과 표적 식별을 위한 고도의 센서와 협력 행동을 지원하는 통신은 엄두를 내기 힘들지만 물리적인 발자취를 가지고 있다. 그리고 범용 AI 에이전트가 개발되더라도 특정 플랫폼에서 작동하도록 적응하고 테스트하는 데는 사소하지 않은 노력이 필요할 것이다.

윤리와 자율 살인 로봇

자가 인식 인공지능에 의해 인류가 파괴될 가능성에 대한 코티지 산업이 존재하지만, 더 구체적이고 근접한 문제는 터미네이터 T800보다 덜 정교하지만 치명적인 공격을 실행할 수 있는 권한을 가진 자율 시스템의 확산이다.

그렇다, 인간은 이 킬러 로봇들이 공격하는 표적에 대한 매개 변수를 설정할 것이다. 이 글에서 설명하는 모든 운동 시스템은 운동 공격에 대해 인간의 승인을 필요로 한다. 그러나 인공지능 요원들은 통신의 확실한 도달 범위를 벗어난 가장자리에서 작동하거나 실질적으로 통제하기에는 너무 큰 숫자로 가능한 표적을 분류하고 그들이 죽일 수 있는 권한이 있는지 평가할 것이다. 러시아와 우크라이나는 이미 자동 표적 인식 인공지능과 말단 전자 광학 지도를 매칭하는 가미카제 드론을 배치하기 시작했지만 결과는 엇갈린다.

사실 이러한 치명적 자율성의 좁은 형태는 목표 분류 능력을 갖춘 일부 냉전시대의 미사일과 어뢰에 이미 존재했다. 이러한 치명적 자율성이 수십 년 전에는 시위를 일으키지 않았다는 것은 모든 형태의 치명적 자율성이 똑같이 논란거리가 되지 않는다는 것을 시사한다. 결국 군함, 탱크 또는 제트 전투기가 전쟁 지역에 존재할 가능성은 거의 없다.

하지만, 탑재되지 않은 인간이나 더 가볍고 그럴듯하게 민간인 차량을 겨냥할 때는 오류의 위험이 증가한다. 신뢰할 수 없고 편향된 데이터 세트의 영향을 받는 것으로 알려진 안면 인식과 같은 기술을 기반으로 자동화를 맡기는 것은 특히 큰 위험을 수반한다. 결국, 인간은 종종 민간인과 적을 정확하게 구분하지 못하고, 로봇은 훨씬 더 큰 어려움을 겪을 수 있다. 공평하게 말하면, 인공지능이 전투 스트레스와 불복종에 민감하지 않아 결국에는 인간보다 더 낮은 오인식률을 달성할 수도 있다. 그러나 그 때에도, 자율 시스템에 의해 수행되는 행동에 대한 확산되고 불분명한 책임을 고려할 때, 피할 수 없는 사고는 복잡한 도덕적 문제를 야기할 것이다.

킬러 AI의 사용에 대한 스스로 부과한 윤리적 제한은 군비 통제 조약이 없는 외국 행위자들에 의해 지켜질 수밖에 없다는 점을 명심하라. 윤리적으로 문제가 많은 기술의 확산을 제한하려고 하는 한편 국방 계획자들은 일부 사이버 전쟁 도구들이 미국의 동맹국들에 의해 억압적인 목적으로 용도가 변경된 것처럼 도덕적으로 반대 가능한 방식으로 자율 시스템을 사용하는 것에 대비해야 한다.

마지막으로, 장기 체공 드론이 2000년대와 2010년대에 광범위한 감시 및 표적 암살 캠페인을 시작할 수 있게 하듯이, 자율 시스템은 위험을 제거하고 이전에는 비현실적이거나 위험했던 운영 개념을 가능하게 할 것이다. 그것은 무력 보호, 치사율, 그리고 비용 효율성을 향상시키기 위한 다양한 방법들의 문을 열어준다. 그러나 새로운 기술에 의해 가능해진 모든 개념이 좋은 생각은 아니다.