미 육군, 인공 지능 안전 테스트에 대한 업계의 도움을 원해

미 육군은 인공지능이 안전하고 안전하며 신속하게 상용 AI를 도입할 수 있도록 인공지능을 위한 "계층형 방어 체계"를 구축하는 방법에 대한 업계의 조언을 원한다.

ChatGPT가 제안한 이름인 #DefendAI는 무기, 전술 네트워크 및 항공기 비행 제어와 같은 매우 민감한 시스템을 위한 AI에 대한 광범위한 테스트 및 맞춤형 방어를 요구하는 반면 숨겨진 백도어 또는 오염된 데이터가 그렇게 심각한 결과를 초래하지 않는 더 일상적인 백오피스 응용 프로그램에 대해 보다 완화된 절차를 허용한다.

그러나 세부사항들은 결정해야 할 것들이 매우 많아 수요일 이 계획을 발표한 육군 당국자들은 피드백을 간절히 바라고 있으며 변화를 줄 용의가 있다고 강조했다. 더그 부시 육군 인수단장의 수석 민간인 부대변인이자 육군의 소프트웨어 개혁을 주도하고 있는 영 방은 "#DefendAI의 핵심은 민간부문의 전문성과 혁신을 보다 쉽게 활용할 수 있도록 만드는 것"이라고 말했다.

방은 수요일 아침 디펜스 스쿱 디펜스 토크(Defense Spook Defense Talks) 회의에서 계약자 중심의 청중들에게 "우리는 이 자리에서 업계의 지원에 정말 감사한다. 우리는 여러분의 도움이 필요하다"고 강조했다. "내가 여기에 왔을 때부터 말했듯이, 우리는 여러분보다 이 일을 더 잘 하지 못할 것이며, 우리는 여러분이 가진 것을 채택할 것이다. 이 프레임워크는 우리가 제3자가 생산한 알고리즘의 채택을 가속화하는 데 정말로 도움이 되는 시도가 될 것이다."

방은 두 가지 분야에서 업계 의견을 원한다. 첫째, 그는 중층 방어 체계를 구현하기 위해 육군이 구입할 수 있는 특정 "과정과 도구"에 대한 판매 제안을 환영했다. 그는 "여러분은 돈을 버는 사업에 종사하고 있다"며 "우리는 그것을 이해한다"고 말했다

사실, 방은 이 서비스가 이미 육군 지원 사무소인 xTech에 의해 운영되는 2024 스케일러블 인공지능 경연대회인 #DefendAI 노력에 부응할 중소기업을 위한 상금 대회를 시작했다고 말했다. (이 대회의 제출은 이미 마감되었고, 매년 10월에 열리는 AUSA 메가 컨퍼런스에서 열릴 것으로 판단됨). 올해의 스케일러블 인공지능 주제 3개 중 2개는 "자동화된 인공지능 위험 관리"와 "인공지능의 강력한 테스트 및 평가"에 초점을 맞추고 있다

그러나 방은 이어 "그런 구체적인 도구들을 넘어, 육군은 전체적인 틀 자체에 대한 업계의 조언도 원한다"고 말했다. 그는 "우리는 투명해질 것"이라며 "여러분은 우리에게 이 틀에 대한 피드백을 줄 기회를 가질 것이고, 그래서 우리는 그것을 조정할 수 있을 것"이라고 말했다

방과 그의 소프트웨어 담당 수석 보좌관인 제니퍼 스완슨은 "이 서비스는 올 여름 공식적인 '정보 요청'을 발행할 것"이라고 말했다. 스완슨은 "첫 번째 것은 아마 7월에 나갈 것"이라고 잠정적으로 말했다.

스완슨은 "RFI들이 설명하는 #DefendAI 프레임워크는 매우 진행 중이며 변화에 열려 있는 작업이 될 것"이라고 강조했다. 스완슨은 "우리는 완성품을 보내지 않을 것"이라며 "우리는 그것들이 진화함에 따라 [RFIs]를 보낼 것이며, 그래서 우리가 통합 데이터 레퍼런스 아키텍처에서 했던 것처럼 우리가 그것을 구축하는 것을 도울 수 있을 것"이라고 말했다

UDRA는 육군이 강력한 인공지능을 위한 필수적인 기반 즉, 잘 조직되고 접근 가능한 데이터를 다루는 것을 목표로 하는 방법이다. 버전 1.0은 민간 부문의 제안을 기반으로 거의 18개월의 수정 끝에 3월에 출시되었다.

스완슨은 "Unified Data Reference Architecture는 업계에서 받은 피드백 때문에 처음처럼 보이지 않습니다."라고 말하며, 이는 "우리는 여러분의 피드백을 받습니다."라고 말했다

이러한 사례는 이뿐만이 아니다: 업계가 자사의 알고리즘에 대해 철저하고 부담이 될 수도 있는 "인공지능 자료 청구서"를 제출하는 것을 반대하자, 방은 "인공지능-봄" 아이디어를 철회하고, 대신 육군 자체의 테스트 능력을 갖추는 데 다시 집중했다. 이러한 방향 전환은 새로운 #DefendAI 노력에 중요한 맥락이다.

방과 스완슨이 오늘 소개한 것에 대해 그녀는 이 프레임워크에 대한 "최고 수준"의 개요였으며, 인공지능들이 상단의 "높은 위험"에서 하단의 "낮은 위험"으로 흘러들어가는 거꾸로 된 피라미드처럼 그래픽으로 묘사되었다고 말했다. 이 시스템이 더 민감할수록, 충분히 안전하다고 여겨지기 전에, 이 시스템이 통과해야 하는 통제의 층수가 더 많다.

"전술적[및] 무기 시스템"은 오류 또는 보안 취약성이 생명의 손실로 이어질 수 있는 최고 위험 인공지능의 예로 나열되어 있으므로 "특정 사용 사례에 맞춘 매우 구체적인 [보안] 완화"가 필요하다. 회계, 인사 관리 등 "비즈니스 시스템"과 DoD 웹 사이트와 같은 "외부 대면 시스템"은 "중간 위험" 범주에 있으므로 여러 유사한 인공지능에 걸쳐 적용되는 "재사용 가능한 완화"와 같은 덜 맞춤화된 보안 조치로 극복할 수 있을 것이다. 마지막으로 "저위험 시스템"은 더 넓은 네트워크에서 "고립"되거나 DoD 전용 청중에게 "내부 대면"되는 시스템을 포함한다. 이것들은 이미 Army Project Linchpin 개발 플랫폼에 내장된 종류의 "가벼운 터치 완화"만 필요할 수 있다.

방은 "목표는 힘들고 시간이 많이 걸리는 과정이 아니라, 빠르게 움직이고 가능하면 자동화를 이용해 압도된 인간과 작성된 체크리스트에 의존하는 느리게 움직이는 전통적인 과정을 대체하는 것"이라고 강조했다. 그는 "의도는 이 모든 것을 자동화하는 것"이라며 "의도는 이것을 빠르게 만들어서 우리가 실제로 여러분의 알고리즘을 더 빠르게 채택할 수 있도록 하는 것"이라고 말했다

방은 "위험을 제거할 수는 없다"고 인정하면서도 "완화하고 관리하며 줄일 수 있다"고 말했다. 그는 "우리는 모든 것과 연관된 위험이 있을 것이라는 것을 인식하고 있다"며 "우리는 단지 위험을 줄이기 위해 노력하고 있을 뿐"이라고 말했다