'AI-BOM' 폭탄: 미 육군, AI 공급업체에 덜 상세한 데이터 요구할 예정

월요일(22일), 육군 인수 담당자들이 더 많은 인공지능을 구매하고 구축하기 위한 계획을 발표하면서, 계약자들에게 인공지능이 어떻게 훈련되었는지, 그리고 어떤 잠재적인 취약성을 가질 수 있는지를 자세히 설명하는 "인공지능 자료 청구서"를 제출하도록 하는 계획이 눈에 띄게 누락되었다.

대신, 업계의 항의가 빗발치는 가운데, 현재 폐지된 "AI-BOM" 아이디어의 작성자는 이 서비스가 기업들이 자신들의 알고리즘과 다른 지적 재산을 질투적으로 보호하는 것을 덜 거슬리게 느끼도록 하기 위한 훨씬 덜 상세한 "요약 카드"를 요구할 것이라고 말했다.

영 방 수석 부차관보은 월요일(22일) 기자들과 만나 "알고리즘에 대한 통계를 갖고 있는 야구 카드처럼 생각할 수 있다"며 "아이피에 대한 업계의 위협적인 내용은 아니다"고 말했다

그러나 동시에 육군은 복잡한 수학으로 탄생한 다음 많은 경우 인간이 이해할 수 없게 될 때까지 여러 차례의 인공 진화 과정에서 스스로를 수정하는 인공지능 알고리즘에 숨겨진 잠재적인 취약성에 대해 깊은 우려를 가지고 있다. 방 수석 부차관과 다른 관계자들은 손상된 인공지능은 해커나 적대적인 국민국가에 의해 삽입된 "트로이안 호스" 멀웨어를 포함하거나 의도적으로 왜곡된 "독이 든" 데이터에 대해 훈련을 받을 수 있다고 경고했다.

그러나 육군은 이론적으로 가장 안전한 접근법을 취할 수 없고 단지 필요한 모든 인공지능을 사내에 구축할 수 없다는 것을 예리하게 알고 있다. 방 차관은 그것이 필요로 하는 것은 산업에서 최고의 인공지능을 적응시키고, 그것들이 안전하도록 보장하며, 민감하거나 기밀화된 데이터를 사용하여 군사적 목적을 위해 필요에 따라 그것들을 재교육하는 방법이라고 말했다.

그는 "우리는 업계가 우리보다 알고리즘 개발을 더 잘 할 것이라고 생각한다"며 "(그러나) 우리는 군의 임무 세트에 매우 특정적인 데이터 세트에 대해 약간의 추가 훈련을 해야 할 수도 있고, 그 상업적인 접근이 불가능할 수도 있다"고 말했다

따라서 첫 번째이자 근본적인 단계는 유지 보수 및 인사 기록에서 정보 및 센서 피드에 이르기까지 서비스 자체의 데이터를 정리하는 것이다. 방 차관은 "육군은 엄청난 양의 데이터를 보유하고 있다"며 "우리는 단지 이를 잘 동원하거나 관리하지 않았을 뿐"이라고 말했다

이를 해결하기 위해 육군은 새로운 통합 데이터 참조 아키텍처의 버전 1.0을 출시했는데, 이 아키텍처는 모든 것을 하나의 모든 것을 포괄하는 "데이터 호수"로 강제하는 대신 독립적이지만 호환 가능한 데이터베이스의 분산된 "데이터 메시"를 구상한다. UDRA는 모든 서비스 프로그램에 필수가 될 데이터를 관리하는 방법에 대한 표준을 제시하고, 기업들이 최근 발표된 통합 eXL(Integration eXchange Lab)을 통해 이를 실험할 수 있도록 했다.

일단 그 데이터가 괜찮은 상태가 되면, 그것은 육군이 스스로 통제하는 안전한 환경에서 인공지능을 시험하고, 재훈련하고, 개발하기 위해 "파이프라인"으로 흘러 들어갈 수 있다. 방씨는 "독이 든 데이터 세트, 적대적인 공격, 트로이 목마, 그리고 그런 종류의 것들"을 막는 것이 매우 중요하다, "만약 당신이 국방부나 육군이 소유하고 있는 통제되고 신뢰할 수 있는 환경에서 인공지능을 개발했다면, 그것을 하는 것이 더 쉽다"고 말했다. 그것은 또한 육군 외부에서 개발된 알고리즘들을 들여오고 그것들을 재훈련하거나 "검증"할 수 있는 안전한 장소가 될 것이라고 그는 말했다.

신뢰할 수 있는 환경을 구축하기 위한 노력을 '린치핀 프로젝트'라고 암호명을 붙였다. 1년 전, 미 국방부 인수라는 빙하기 기준에 따라, 이 계획은 육군의 눈에 딱 한 번 반짝였을 뿐이다.

"린치핀은 개념부터 프로그램까지, 12개월 동안 정말 빠르게 일어났습니다"라고 육군 정보, 전자전 및 센서 프로그램 책임자(PEO-IEWS)의 린치핀 업무를 이끌고 있는 바라트 파텔(Bharat Patel)이 말했습니다. "우리는 지금 이 프로그램을 준비하고 있습니다."

지난 가을, 린치핀은 DC 내부자인 부즈 앨런 해밀턴과 상업적인 타이탄 레드햇에게 "추적가능성, 관찰가능성, 대체가능성, 그리고 소비가능성"을 위한 인공지능 검사 도구를 개발하기 위한 두 건의 소액 계약을 수여했다. 린치핀은 또한 응답으로 500점의 "데이터 포인트"를 받은 네 건의 공식적인 "정보 요청"을 발표했고, 450개 이상의 회사와 만났으며, 소기업을 위한 상금 대회를 시작했다.

지금까지 가장 다듬어지지 않은 것으로 보이는 3단계는 인공지능 위험을 관리하는 방법을 공식화하는 것이다. 방씨는 이 아이디어는 "계층화된 위험 감소 또는 위험 프레임워크"라고 말했다. - "우리는 더 나은 이름을 생각할 것입니다." - 그것은 현재 민간 부문과 긴밀한 협의를 통해 개발되고 있다.

방 차관보는 "육군은 우리가 알고리즘과 모든 개발과 훈련을 [산업]보다 더 잘 하지 않을 것이라는 것을 인식하고 있다"며 "그들은 그것을 매우 잘 하고 있으므로 우리는 그것을 많이 채택하기를 원한다"고 말했다.

그러나 육군이 위험을 관리하기 위해 사용하는 도구가 무엇이든, 인공지능 자료집은 그것들 중 하나가 아닐 것이다. 오픈 소스 코드의 사용과 같이, 주어진 적용에서 잠재적인 약점들을 나열하는 S-BOM, Software Bill Of Materials라고 불리는 점점 더 대중화되는 관행으로부터 그 아이디어가 도출된다. 인공지능 자료집은 S-BOM으로 시작하지만 알고리즘이 훈련을 받았는지에 대한 개요와 같은 인공지능의 더 큰 복잡성과 불투명성을 다루기 위해 많은 추가적인 요구사항들을 추가한다.

일찍이 지난 8월, 방씨는 AI-BOM 아이디어를 "중요하다"고 부르면서도 그것에 대한 업계의 우려를 인정했다: "우리는 정말로 업계의 피드백을 원한다"고 그는 당시에 "왜냐하면 여러분 모두가 돌아와서 '음, 그건 기본적으로 RIP'라고 말할 수 있기 때문이다"라고 말했다

사실, 현재로서는 AI-BOM이 DOA인 것 같다.

방 차관은 월요일 "우리는 업계와 많은 협력을 해왔고 그들로부터 AI-BOM에 대한 우리의 생각을 조정하는 많은 피드백을 받았다"고 말했다. "우리의 의도는 어떤 IP도 역설계하지 않는 것이었다. 알고리즘과 관련된 보안 위험에 대해 더 잘 이해하는 것이 정말 우리를 위한 것이다. 하지만 우리는 업계의 피드백을 이해하기 때문에 AI 요약 카드에 더 많은 노력을 기울이고 있다."

방 차관은 "육군의 AI 추진은 지난 5월 승인된 100일 이행계획의 두 번째 달에 접어들었으며, 올 여름에는 보다 장기적인 500일(17개월) 계획이 후속 조치로 나올 것"이라고 말했다.