백악관 AI 행정명령으로 국방부 혁신의 미래에 대한 의문 제기

오늘 조 바이든 대통령이 서명한 새로운 인공 지능 행정 명령은 기술로 인한 위험을 관리하는 데 있어 "미국이 앞장서도록" 하기 위해 "인공 지능 안전 분야를 발전시키기 위해 정부가 취한 가장 중요한 조치" 중 하나로 행정부로부터 환영을 받고 있다. 

그러나 상업계에서 AI를 개발하는 방법에 대한 새로운 규정은 앞으로 국방부와 산업계가 협력하는 방식에 영향을 미칠 수 있으며, 아직 해결해야 할 많은 미지의 영향이 있다. 

"국방부에 가장 큰 의미는 이것이 획득에 어떤 영향을 미칠 것인가입니다... AI 모델을 개발하고 국방부와 비즈니스를 하고자 하는 사람은 누구나 이러한 새로운 표준을 준수해야 하기 때문입니다."라고 Beacon Global Strategies의 글로벌 기술 정책 실무 책임자 클론 키친은 오늘 Breaking Defense에 말했다. 

"이 행정 명령에는 이중 용도 모델을 개발하거나 배포하는 모든 사람에게 매우 광범위한 요구 사항이 있습니다."라고 그는 덧붙였다. "따라서 모든 주요 계약업체와 통합업체 등은 프론티어 모델과 관련된 매우 중요한 보고 요건을 갖추게 될 것입니다."

"안전하고 안전하며 신뢰할 수 있는 인공 지능" 행정명령의 전문은 아직 공개되지 않았지만, 백악관의 팩트 시트에 이 행정명령의 주요 내용이 나와 있습니다. 특히, 이 행정명령은 "가장 강력한 인공지능 시스템 개발자가 안전 테스트 결과 및 기타 중요한 정보를 미국 정부와 공유"하도록 지시하고 있으며, 연방 기관에도 인공지능 사용에 대한 지침을 제공할 것이라고 명시하고 있다.

키친은 오늘날의 EO와 책임 있는 AI 전략 및 실행 경로와 같은 국방부의 자체 AI 정책 사이에 "의도된 일치"가 있는 것처럼 보이지만 "해결해야 할 몇 가지 불가피한 단절"이 있을 것이라고 말했다.

그는 "행정부가 이를 이해하고 업계에 과도한 부담을 주지 않으려는 동시에 현실적인 우려를 의미 있게 해결하려고 노력하는 것으로 보입니다."라고 말했다. "업계와 정부는 그 선을 어디에 그어야 하는지에 대해 분명히 동의하지 않을 것이지만, 저는 행정명령이 그 대화를 시작하려는 일반적인 선의의 노력으로 해석합니다."

팩트 시트에 따르면, 미국 국립표준기술연구소는 AI의 보안을 보장하기 위한 표준을 개발하고, 국토안보부와 에너지부와 같은 연방 기관은 중요 인프라에 대한 AI 위협의 영향에 대처할 것이다. 항공우주산업협회 무역 그룹 책임자인 에릭 패닝은 성명에서 자신의 조직이 이 문서를 "면밀히 평가하고 있다"고 말했다.

팩트 시트는 또한 국가 안보위원회와 백악관 참모장이 AI와 관련된 추가 조치를 설명하는 국가 안보 각서를 개발할 것이며 백악관은 "바이든-해리스 행정부의 진행중인 AI 사이버 챌린지를 기반으로 중요한 소프트웨어의 취약점을 찾아 수정하는 AI 도구를 개발하기 위해 고급 사이버 보안 프로그램을 구축 할 것"이라고 밝혔다.

상원 정보위원회 위원장이자 상원 사이버 보안 코커스 공동 의장인 마크 워너 상원의원(버지니아 민주당)은 성명에서 행정명령의 "많은" 부분이 "표면적인 것일 뿐"이라고 말했다.

워너는 "AI 거버넌스와 관련된 지난 두 개의 인텔 승인 법안에서 일부 작업이 중복되는 AI의 국가 안보 사용과 관련된 조항과 같이 계류 중인 초당적 법안과 겹치는 부분도 있습니다."라고 말했다. "이는 좋은 진전이지만 추가적인 입법 조치가 필요하며, 보안을 우선시하고 편견과 유해한 오용에 대처하며 책임감 있게 기술을 출시할 수 있도록 계속해서 열심히 노력할 것입니다."

Center for a New American Security의 부사장 겸 연구 책임자인 폴 샤레는 성명에서 기업이 AI 모델을 훈련할 때 정부에 통보해야 하는 요건과 NIST의 레드팀 표준 요건은 AI 안전을 발전시키기 위해 취하고 있는 많은 "중요한" 조치 중 두 가지라고 말했다.

"이러한 조치를 통해 가장 강력한 AI 시스템이 공개 배포 전에 안전성을 엄격하게 테스트할 수 있게 될 것입니다."라고 그는 말했다. "AI 연구소가 점점 더 강력한 AI 시스템을 계속 훈련함에 따라 이러한 단계는 AI 개발이 안전하게 진행되도록 보장하는 데 필수적인 단계입니다."

키친은 "정말 중요한 것은 여러 부서와 기관이 실제로 규칙을 만들고 행정명령에서 받은 지침을 어떻게 해석하는가 하는 것입니다."라고 말했다.

"따라서 행정명령이 업계에서 많은 질문을 불러일으킬 것이라고 생각하지만, 실제로 이러한 질문에 답하기 시작하는 것은 개별 기관과 부서일 것입니다."라고 그는 말했다.