미 DARPA와 백악관이 2천만 달러 규모의 AI와 사이버안보 경연 준비

미국 방위고등연구계획국(DARPA)과 백악관이 협력하여 인공지능을 사용하여 중요한 소프트웨어를 보호하고 새로운 사이버 보안 도구를 개발하기 위한 새로운 2년간의 경진대회를 발표했으며, 이는 본질적으로 최첨단 고액 버그 바운티 프로그램이다.

"AI 사이버 챌린지"(AIxCC)라고 불리는 이 대회의 목표는 "미국 전역의 경쟁자들에게 AI를 사용하여 소프트웨어 취약점을 식별하고 수정하도록 도전하는 것"이라고 백악관은 오늘 발표했다. 구글, 마이크로소프트, 오픈AI, 앤트로픽이 이 챌린지에 전문 지식과 기술을 제공할 예정이다. 

"점점 더 상호 연결되는 세상에서 소프트웨어는 금융 시스템에서 공공 유틸리티에 이르기까지 모든 것을 뒷받침합니다."라고 DARPA는 보도 자료를 통해 설명했다. "소프트웨어가 현대 생활을 가능하게 하고 생산성을 향상시키면서 악의적인 공격자에게는 공격 표면이 확대되고 있습니다.

"이 표면에는 중요한 인프라가 포함되며, DARPA 전문가들은 대규모 시스템을 보호할 수 있는 도구가 부족하기 때문에 사이버 공격에 특히 취약하다고 말합니다."라고 보도 자료는 말했다. "최근 몇 년 동안 이러한 상황을 악용하는 악의적인 사이버 공격자들이 사회에 가하는 위협이 드러났으며, 사이버 방어자들이 보호해야 하는 공격 표면이 얼마나 어려운지 분명해졌습니다. 이러한 취약점에도 불구하고 현대 기술의 발전은 이를 해결할 수 있는 길을 제공할 수 있습니다."

DARPA 웹사이트에 따르면 DARPA는 내년 8월 DEF CON 2024 컨퍼런스에서 최대 20개 팀이 준결승에 진출하고 최대 5개 팀이 결승에 진출하는 AIxCC 공개 경진대회를 개최할 예정이라고 한다. 2025년 8월 DEF CON 2025에서 우승자 3팀이 선정됩니다. 백악관에 따르면 AIxCC는 약 2천만 달러의 상금을 수여할 예정이다.

AIxCC는 국가 안보를 발전시키기 위해 책임감 있게 AI를 사용하고 채택하려는 국방부와 백악관의 광범위한 추진에 따른 것이다. 지난 6월 국방부는 책임감 있는 AI 전략 및 구현 경로를 발표하여 국방부를 AI 준비 조직으로 전환하는 방법을 모색했으며, 2년 전에는 AI 윤리 원칙을 채택한 바 있다.

그리고 지난달 백악관은 AIxCC에 기술과 전문 지식을 제공하는 회사를 포함하여 여러 선도적 인 AI 회사가 AI로 인한 위험을 관리하기 위해 자발적으로 약속했다고 발표했다. 

바이든, 중국 기술에 대한 미국 투자를 겨냥

한편, 바이든 행정부는 미국의 중국 투자에 대한 고삐를 조여 라이벌 중국의 AI 개발의 "특별한 위협"이라고 불리는 것을 막기위한 조치도 발표했다. 새로운 재무부 프로그램과 함께 오늘 발표된 새로운 행정 명령은 투자자들이 중국 군대나 정보기관에 도움이 될 수 있는 AI, 양자 컴퓨팅, 마이크로일렉트로닉스를 다루는 중국의 민간 기술 기업에 돈을 쏟아붓는 것을 금지하는 것을 목표로 한다.

행정부 고위 관리들은 기자들에게 EO가 돈 외에도 새로운 전문 지식, 인재 네트워크 및 "시장 접근"의 도입을 포함하여 종종 상당한 서방 벤처 및 민간 투자와 함께 제공되는 "무형적"혜택을 억제하기위한 것이라고 말했다.

"미국은 이미 새로운 프로그램에서 고려 중인 많은 기술과 제품의 대 중국 수출을 금지하거나 제한하고 있습니다."라고 재무부는 새로운 이니셔티브에 대해 말했다. "이 새로운 프로그램은 미국 투자가 중국에서 이러한 기술의 토착화를 가속화하는 데 도움이되지 못하게하여 미국의 국가 안보를 보호하려는 기존 수출 통제 및 인바운드 투자 심사 프로그램의 효과를 약화시킵니다."