지금까지 우크라이나에서 AI 드론은 혁명이 아니었다

"우크라이나 전쟁은 인공지능을 이용한 드론 전쟁의 혁명을 촉발시키고 있습니다"라고 지난 7월 워싱턴 포스트의 헤드라인에 요란하게 실렸다. 그러고 나서, 가을에, 러시아와 우크라이나 모두 목표물을 식별하고 집으로 돌아오기 위해 인공지능을 사용하는 소형 드론을 배치했다는 많은 보도들이 있었다. 인공지능이 탑재되었다는 것은 러시아 랜싯과 우크라이나 세이커 스카우트의 버전인 드론이 영향을 미치기까지 모든 과정을 안내하기 위해 인간 운영자가 필요하지 않다는 것을 의미했다.

만일 이 인공지능이 전투에서 자신을 입증했다면, 그것은 정말로 혁명이었을 것이다. 오퍼레이터의 제어 링크를 방해하거나 더 나쁘게는 정확한 타격을 위해 송신원을 추적하도록 고안된 전자전 시스템들은 주로 무인기들에 대해서는 아무 소용이 없었을 것이다. 숙련되고 부족한 무인기 기수들은 가능한 목표물들을 가리키고 클릭하도록 빠르게 훈련된 수천 명의 징집병들로 대체되었을 수도 있다. 그리고 오퍼레이터가 상시 영상 공급을 주시하도록 요구하는 모든 무인기 대신, 한 사람이 치명적인 기계들의 무리를 감독할 수도 있었을 것이다.

전체적으로 볼 때, 군사 인공지능은 기술적으로 인상적이고 인간의 통제로부터 독립하기 위해 약간 무서운 조치를 취했을 것인데, 예를 들어 마블의 울트론이 피노키오의 "I've got no string me"를 노래한 것과 같다. 대신, 4개월 이상의 전방 현장 테스트 후, 양측의 인공지능 증강 드론은 측정 가능한 영향을 미치지 않은 것으로 보인다.

2월 초, 신미국 안보 센터의 상세한 보고서는 몇 줄로 인공지능 드론을 일축했다. "이러한 주장들이 검증되지 않았지만, 랜싯-3는 자율적인 목표 식별과 교전을 가지고 있다고 광고되었습니다"라고 CNAS의 국방 프로그램 책임자인 스테이시 페티존이 썼다. "양측은 드론의 목표를 타격하는 능력을 향상시키기 위해 인공지능을 사용한다고 주장하지만, 아마도 그것의 사용은 제한적일 것입니다."

그리고 나서, 2월 14일, 독립적인 분석은 러시아인들이, 적어도 그들의 랜싯의 인공지능 안내 기능을 꺼 놓았다고 시사했다. 추락 이후 온라인에 게시된 랜싯 운영자들의 화면의 비디오들은 종종 목표물 주위에 상자, 목표물이 움직일 때 움직일 수 있는 하나, 그리고 "목표물이 잠겼다"라고 말하는 알림을 포함한다고 프리랜서 기자 데이비드 햄블링이 포브스에 게시했다. 비록 비디오만으로 그것이 단지 인간 운영자의 목표물을 강조하는 것인지 아니면 드론이 그것을 치도록 적극적으로 안내하는 것인지 구별하는 것은 불가능하지만, 그러한 특징들은 어떤 형태의 알고리즘 객체 인식을 필요로 할 것이다.

그러나 햄블링은 "지난 2주 정도의 랜싯 비디오 중 어느 것도 '표적 잠금'이나 그에 수반되는 경계 상자가 없는 것 같다"며 "분명한 결론은 자동화된 표적 인식 소프트웨어가 조기에 출시되었고 제품 리콜이 있었다는 것"이라고 말했다

(AI) 과대 광고를 믿지 마십시오

러시아의 군사 문서나 드론의 소프트웨어 코드에 접근하지 않고서는 햄블링의 분석을 확인할 수 없다. 그러나 페티존과 다른 두 명의 드론 전문가들, 모두 평소 이 기술에 열광하는 러시아어 구사자들은 햄블링의 해석이 그럴듯할 뿐만 아니라 가능성이 있다는 데 동의했다.

전 육군연구소 수석과학자인 알렉산더 코트는 "이것은 상당히 상세한 분석이며, 내 눈에는 옳아 보인다"고 포브스 기사에 대한 브레이킹 디펜스의 관심을 촉구하는 이메일을 보냈다. "확실히 알기는 어렵다… 나는 독립적인 확인서를 본 적이 없으며, 확인서가 존재할 수도 없다고 생각한다."

미 국방부와 긴밀한 관계를 맺고 있는 싱크탱크 CNA의 샘 벤데트는 브레이킹디펜스와의 이메일 교환에서 "정확하다고 생각한다"며 "(벤데트는 햄블링에게도 자신의 이야기를 했다)"고 말했다.

"이 기술은 많은 테스트와 평가가 필요하고, 많은 반복이 필요하며, 여러 번 이 기술이 준비되지 않았습니다"라고 포브스 기사가 발표되기 전 브레이킹 디펜스에 말했다. 그는 "양측이 모두 이 기술을 바로 잡기를 원하기 때문에 이 기술이 느리게 진행되고 있다고 생각합니다. 일단 그들이 그것을 맞추면, 그들은 그것을 확장할 것입니다.

벤데트는 "이는 사실상 기술적으로 가능하다"며 "드론 기술의 돌파구를 마련하고 빠르게 규모를 확대하는 사람은 큰 이점을 얻는다"고 말했다

그러나 페티존은 브레이킹 디펜스와의 인터뷰에서 "러시아 산업계는 자국 무기의 성능에 대해 종종 꽤 이상한 주장을 하고 있으며 실제로 우리는 그들의 성능이 약속한 것보다 훨씬 적다는 것을 발견한다"며 "이는 샘 벤데트와 제프 에드몽즈가 우크라이나의 무인 시스템에 대한 CNA 보고서에서 발견한 바와 같이 자율 시스템에서 가장 두드러졌다"고 말했다

우크라이나인들은 비슷한 언론의 과대 광고에도 불구하고 더 나아지지 않은 것 같다.

페티존은 "사커 스카우트와 우크라이나인들이 개발해 온 자율 표적 인식 소프트웨어에 대한 정말 흥미로운 보도가 많이 있다"며 "사커 스카우트가 해야 할 일을 한다면… 폭발해 표적을 찾고 사람이 개입하지 않고 스스로 모든 것을 죽이기로 결정할 수도 있다"고 말했다

"이것이 실제로 이것을 할 수 있는지… 그것을 통과하기는 어렵다"고 그녀는 계속했다. "나는 확실히 회의적인 편에 있다."

진정한 인공지능 혁명 – 날짜 TBD

그렇다면 인간 운영자를 인공지능으로 대체하려면 러시아와 우크라이나, 혹은 미국과 중국이 정말로 무엇을 해야 할까? 결국, 뇌는 수백만 년에 걸친 진화를 통해 눈부신 감각 데이터 (시각, 청각, 후각, 진동)를 수집하고, 외부 세계의 내부 3D 모델을 업데이트하고, 복잡한 행동 계획을 거의 실시간으로 수립하고 실행하는 생물학적 신경망이다.

인공지능이 그 능력과 일치하기 위해서는 전투 이론가들이 말하는 "상황 인식"이 필요하다고 코트는 브레이킹 디펜스에 말했다. "다른 군인들처럼… 그들은 그들 주변에서 무엇이 일어나고 있는지 볼 필요가 있다." 그것은 인공지능이 충분히 어렵게 찾아내는 사물 인식뿐만 아니라 움직이는 물체를 관찰하고 그것이 수행하는 도중에 어떤 행동을 하는지를 추론하는 능력을 필요로 한다고 코트는 주장한다.

그것은 인간이 유아기 때부터 하는 일이다. 어떤 음식이 보이기도 전에 높은 의자에 앉았을 때 "음"이라고 말하는 아기를 생각해보라: 그것은 실제로 관찰하고, 그 감각적인 입력을 세계에 대해 이해하기 쉬운 데이터로 바꾸고, 그 새로운 데이터를 기억의 오래된 패턴과 일치시키고, 미래에 대해 추론하는 복잡한 과정이다. 인공지능에서 가장 유명한 격언들 중 하나인 Moravec의 역설은 인간이 당연하게 여기는 일들이 기계에게 혼란스럽게 어려울 수 있다는 것이다.

심지어 사람들도 스트레스를 받거나 위험에 처하거나 고의적인 속임수에 직면했을 때 무슨 일이 일어나고 있는지 이해하려고 애쓴다. 가짜 HIMARS 로켓 발사기, 대공 레이더 등 우크라이나 미끼는 러시아 드론 운용자와 포병 장교들을 속여서 가짜 무기를 낭비하고 잘 위장된 미끼는 내버려두고, 기계 비전 알고리즘은 심지어 더 속이기 쉬운 것으로 입증되었다. 전투원들은 또한 분명히 눈에 보이는 위험으로부터 누군가 당신에게 돌격하고 비명을 지르며 진화한 것부터, 전자전이나 레이저를 고정하는 표적과 같은 인간의 감각이 인지할 수 없는 첨단 기술 위협까지, 위험을 주시해야 한다. 적절하게 장비된 기계는 전파와 레이저 광선을 탐지할 수 있지만, 그것의 인공지능은 여전히 어떤 위협이 가장 위험한지를 평가하고, 몇 초 만에 자신을 방어하는 방법을 결정하는 들어오는 데이터를 이해할 필요가 있다.

하지만 어려움은 여기서 멈추지 않는다: 인류가 최초의 석기시대 부족이 다른 부족을 매복 공격했을 때부터 가졌던 방식인, 전투원들은 하나의 팀으로서 함께 싸워야 한다. 소총 사격술과 다른 개인적인 기술들에 비해, 집단적인 "전투 훈련", 팀 구성, 그리고 사격 중에 명확한 의사소통을 위한 프로토콜들은 훈련에 엄청난 시간을 소비한다. 그래서 미국의 모든 영역의 연합 사령부와 중국의 "정보화된 전쟁" 둘 다 군사용 인공지능을 위한 강력한 프로젝트들은 화력뿐만 아니라 조정에 초점을 맞추고 있는데, 알고리즘들을 사용하여 인간 중개자 없이도 한 로봇 시스템에서 다른 시스템으로 전투 데이터를 직접 공유할 수 있다.

따라서 효과적인 전투 AI를 향한 다음 단계는 "정말로 네트워크화하고 실제로 촬영할 수 있는 권한이 있는 사람이 누구인지 그 정보를 어떻게 공유하고 있는지에 대해 생각하는 것입니다. 드론인가요?"라고 페티존은 말했다

이러한 복잡한 디지털 의사결정에는 정교한 소프트웨어가 필요하며, 이 소프트웨어는 고속 칩으로 구동되어야 하며, 고속 칩은 전력, 냉각, 진동 및 전자적 간섭으로부터의 보호 등을 필요로 한다. 엔지니어들이 우크라이나에서 양측이 널리 사용하고 있는 소형 무인기와 같은 종류의 무인기에 주입하기에는 이러한 것들 중 어느 것도 쉬운 것이 아니다. 심지어 개량된 Lancet-3는 폭발성 탄두를 7파운드(3kg)도 채 못 맞으므로 커다란 컴퓨터 두뇌를 위한 공간을 거의 남기지 않는다.

필수적인 엔지니어링과 비용은 통신판매 부품으로 수작업으로 제작된 많은 드론들인 러시아나 특히 우크라이나에 너무 많은 것으로 드러날 수 있다. "현재 FPV 1인칭 시점 드론의 매우 낮은 비용과 많은 드론들이 말 그대로 그들의 부엌 식탁에 자원봉사자들에 의해 조립된다는 사실을 고려할 때… 비용-편익의 절충안은 여전히 불확실할 것입니다"라고 코트가 브레이킹 디펜스에게 말했다.

"당신이 그렇게 많은 드론을 보는 이유는 드론이 저렴하기 때문입니다"라고 페티존은 동의했다. "양쪽 모두 그들은 방해에 대한 방어를 강화하는 데 투자하지 않고 있습니다… 왜냐하면 드론이 필요한 숫자로 감당하기에 너무 비싸기 때문입니다. 드론들은 차라리 드론을 많이 사서 그 중 일부가 성공하는 데 의존하고 있습니다."

그래서 러시아나 우크라이나가 선내 AI를 구현할 수 있다고 해도, 그녀는 "비용에 많이 의존하기 때문에 이 갈등에서 규모가 커질지는 분명하지 않다"고 말했다

그러나 그것이 인공지능이 다른 전투원들, 특히 미국과 중국과 같은 큰 국방 예산을 가진 첨단 기술 국가들과의 다른 갈등에서 확대되지 않을 것이라는 것을 의미하지는 않는다. 그러나 심지어 그러한 초강대국들이 인공지능을 드론에 장착하기 위해 소형화하는 것조차 쉽지 않은데, grabbing와 같은 헤드라인 grabbing 인공지능은 거대한 서버 농장에서 작동한다.

그러나 그것이 그 문제를 해결하는 것을 불가능하게 만드는 것은 아니다 - 혹은 그것이 100% 해결되어야만 한다는 것이다. 인공지능은 여전히 결함과 환각을 일으키지만, 인간은 전투 중 또는 전투 중에 항상 치명적인 오류를 범한다. 민간인의 비유가 자율주행차이다: 인간 운전자들보다 개선이 되기 위해 그들은 사고의 100%를 피할 필요가 없다.

정의에 따라, 어떤 주어진 일을 수행하는 인간의 그룹에서, "50퍼센트의 사람들은 평균 이하가 될 것입니다"라고 Kott는 언급했다. "만약 당신이 '평균 이하'보다 더 잘할 수 있다면, 당신은 이미 당신의 운영의 효과가 두 배가 될 것입니다."

약간의 개선도 우크라이나처럼 대규모로 전쟁을 치를 때나 미래의 미·중 갈등에 큰 영향을 미칠 수 있다. 코트는 "100%일 필요는 없다"며 "많은 경우 20%면 충분하다, 없는 것보다 훨씬 낫다"고 말했다

그는 "높은 성능에 대한 서방의 요구는 주요 전쟁의 현실과 부합하지 않는다"고 경고했다. 코트는 "우리는 완전한 신뢰성을 요구하고, 완전한 정확성을 요구한다"며 "우크라이나인들은 완벽함을 명시하지 않는다. 그들은 그것을 감당할 수 없다"고 말했다