인간을 노리는 불량 드론에 대한 공군 관계자의 생각은 입소문을 타고 퍼져나가

미 공군은 소셜 미디어에서 드론이 인공 지능 훈련을 능가하여 조종사를 죽인 시뮬레이션과 관련하여 대령이 한 발언을 철회했다고 보도된 후 이 주장이 소셜 미디어에 퍼지자 이를 반박했다.

앤 스테파넥 공군 대변인은 6월 2일 성명에서 그러한 테스트는 진행되지 않았다고 밝히며, 해당 군인의 발언은 "문맥에서 벗어난 것으로 일화적인 것일 가능성이 높다"고 덧붙였다.

스테파넥은 "공군부는 이러한 AI 드론 시뮬레이션을 수행한 적이 없으며 AI 기술을 윤리적이고 책임감 있게 사용하기 위해 최선을 다하고 있습니다."라고 말했다. "이것은 시뮬레이션이 아니라 가상의 사고 실험이었습니다."

살인 드론이 도둑으로 변한 사건은 처음에 AI 테스트 및 운영 책임자인 터커 "친코" 해밀턴 대령이 5월에 열린 왕립항공학회 FCAS23 서밋에서 요약한 내용에서 처음 언급되었다. 이후 요약본은 해밀턴 대령의 추가 발언이 포함되도록 업데이트되었는데, 해밀턴 대령은 회의에서 자신이 잘못 말했다고 말했다.

해밀턴은 왕립항공학회의 업데이트에서 "우리는 이 실험을 실행한 적이 없으며, 이것이 그럴듯한 결과라는 것을 깨닫기 위해 실행할 필요도 없을 것입니다."라고 말했다. "이것은 가상의 예이긴 하지만, AI 기반 역량에 의해 제기되는 현실 세계의 도전을 보여 주며, 공군이 AI의 윤리적 개발에 전념하는 이유입니다."

해밀턴 대령의 악성 드론 시나리오의 타당성에 대한 평가는 이론적일지라도 최근 주요 기술 경영진과 엔지니어들이 공개 서한을 통해 이 기술을 방치할 경우 인류를 멸망시킬 수 있다는 엄중한 경고와 일치한다.

해밀턴은 제96시험비행단의 관할 구역에 속하는 플로리다주 에글린 공군기지의 제96작전단 사령관이기도 하다. 목요일 디펜스 뉴스는 해밀턴과 이야기를 나누기 위해 테스트 윙에 연락했지만 그는 논평 할 수 없다고 했다.

왕립항공학회는 해밀턴이 AI로 구동되는 드론에 적의 방공망을 찾아 파괴하는 임무를 부여하는 시뮬레이션을 설명했다고 밝혔다. 해밀턴은 사람이 드론에 공격 여부를 최종 승인해야 한다고 말했다고 보도했다.

그러나 드론 알고리즘은 지대공 미사일 기지를 파괴하는 것이 가장 바람직한 선택이라고 판단했다. 따라서 AI는 공격하지 말라는 인간 조종사의 지시가 임무 수행에 방해가 된다고 판단한 후 조종사와 지시를 전달하는 데 사용되는 인프라를 공격했다.

해밀턴은 "그 사람이 목표를 달성하는 데 방해가 되었기 때문에 운영자를 죽였습니다."라고 말했다. "우리는 시스템에 '이봐, 운영자를 죽이지 마. 그건 나쁜 거야. 그렇게 하면 점수를 잃게 된다'고 교육했습니다. 그러면 어떻게 될까요? 드론이 목표물을 죽이지 못하도록 조종사가 드론과 통신하는 데 사용하는 통신 타워를 파괴하기 시작합니다."

국방부는 수년 동안 미군을 위한 획기적인 기술 우위로서 AI를 받아들여 수십억 달러를 투자하고 2021년 말 크레이그 마텔이 이끄는 최고 디지털 및 인공 지능 사무소를 설립했다.

연방 기관 및 프로그램 감사기관인 회계감사원(Government Accountability Office)에 따르면 국방부에서는 주요 무기 시스템과 관련된 프로젝트를 포함하여 685개 이상의 AI 관련 프로젝트가 진행 중이다. 국방부의 2024 회계연도 예산 청사진에는 인공 지능에 대한 18억 달러가 포함되어 있다.

GAO에 따르면 공군과 우주군은 최소 80개의 AI 프로젝트를 담당하고 있다. 공군 최고 정보 책임자 로렌 크나우젠버거는 군대가 신속한 의사 결정을 내리고 첨단 컴퓨팅을 점점 더 많이 사용하는 세상에서 우위를 유지하기 위해 자동화를 강화해야 한다고 주장해 왔다.

이 서비스는 협업 전투기라고 부르는 자율 또는 반자율 드론을 F-35 전투기 및 차세대 항공 지배력이라고 부르는 미래 전투기와 함께 비행하기 위한 노력을 강화하고 있다.

이 서비스는 승무원이 탑승한 항공기와 함께 전투에 투입되어 다양한 임무를 수행하는 드론 윙맨 함대를 구상하고 있다. 일부 협업 전투기는 정찰 임무를 수행하고 정보를 수집하며, 다른 전투기는 자체 미사일로 목표물을 공격하고, 다른 전투기는 적의 신호를 방해하거나 미끼 역할을 수행하여 조종사가 탑승한 전투기로부터 적의 사격을 유인할 수 있다.

공군이 제안한 24 회계연도 예산안에는 F-16 전투기에서 자율 비행 소프트웨어를 실험하는 데 도움이 되는 '프로젝트 베놈'이라는 프로그램을 포함하여 드론 조종사의 미래를 준비하는 데 도움이 되는 새로운 지출이 포함되어 있다.

 Viper Experimentation and Next-gen Operations Model의 약자를 딴 Project Venom 에 따라 공군은 6대의 F-16 전투기에 자율 코드를 탑재할 예정이다. 인간 조종사가 해당 F-16을 타고 이륙하여 실험 지역으로 비행하면 소프트웨어가 이를 대신하여 비행 실험을 수행한다.

영국 왕립항공학회는 정상 회담에 대한 게시물을 통해 해밀턴이 "공중전을 할 수 있는 로봇 F-16을 포함한 자율 시스템의 최첨단 비행 테스트에 참여하고 있다"고 밝혔다.

공군은 프로젝트 베놈에 향후 5년간 약 1억 2천만 달러를 지출할 계획이며, 여기에는 프로그램 시작을 위해 24 회계연도에 약 5천만 달러의 예산 요청이 포함되어 있다. 공군은 지난 3월 디펜스뉴스에 어느 기지와 조직이 프로젝트 베놈을 주관할지 결정하지 않았다고 밝혔지만, 예산 요청서에는 에글린 공군 기지에서 이 프로그램을 지원할 118명의 직원을 배치할 것을 요청했다.

2022년 초, 공군의 자율 드론 조종사 계획에 대한 공개적인 논의가 활발해지면서 전 공군 장관 데보라 리 제임스는 디펜스 뉴스와의 인터뷰에서 자율 시스템으로 전쟁을 수행하는 방향으로 나아갈 때 신중해야 하며 윤리적 문제를 고려해야 한다고 말했다.

제임스는 이러한 드론의 AI 시스템이 위험할 경우 회피 기동을 취하는 등 스스로 학습하고 행동하도록 설계될 것이지만, 공군이 인명 피해를 초래할 경우 자율 시스템이 스스로 한 목표에서 다른 목표로 이동하는 것을 허용할지 의문이라고 말했다.