Scale AI, 미 국방부를 위한 대규모 언어 모델 평가

편집자 주: 이 기사는 Scale AI의 업무를 보다 정확하게 반영하기 위해 2024년 2월 20일에 업데이트되었다.

미국 국방부는 군사 애플리케이션을 위한 생성 인공지능을 테스트하고 평가하는 데 도움을 주기 위해 Scale AI를 선정했다.

캘리포니아에 본사를 둔 이 회사는 2월 20일 디지털 및 AI 최고 책임자실(CDAO)이 워싱턴 DC에서 이 주제에 대해 논의하는 컨퍼런스를 시작할 예정이었던 날에 이 같은 사실을 발표했다.

생성형 AI는 사용자 프롬프트에 응답하여 알고리즘 모델을 사용하여 텍스트, 이미지 또는 기타 데이터 출력을 생성할 수 있다. 대규모 언어 모델은 자체적으로 또는 지도 학습 프로세스를 통해 텍스트 문서 또는 기타 입력 간의 통계적 관계를 사용하여 에세이, 컴퓨터 코드, 인간과 유사한 대화 등을 생성하는 생성형 AI의 한 유형이다. Scale AI는 계약에 따라 이러한 시스템에 대한 벤치마크를 생성할 것이다.

국방부는 생성형 AI에 대한 관심이 높아지고 있지만, 그 용도에 대해서는 아직 논란이 계속되고 있다. 스마트 비서나 챗봇은 파일을 효율적으로 찾고, 자주 묻는 질문에 답하거나 연락처 정보를 찾아낼 수 있지만, 이러한 도구는 허위 정보 캠페인, 스푸핑 시도, 사이버 공격을 촉진할 수도 있다. CDAO는 지난 8월 국가 보안을 위한 제너레이티브 AI를 연구하고 안내하기 위해 태스크포스 리마를 출범시켰다.

Scale의 창립자이자 최고 경영자인 알렉산드르 왕은 성명에서 "생성형 AI를 테스트하고 평가하면 국방부가 기술의 강점과 한계를 이해하여 책임감 있게 배치할 수 있을 것입니다."라고 말했다. "Scale은 이 프레임워크에 대해 국방부와 협력하게 되어 영광입니다."

화요일 발표에는 이 작업에 대한 금액은 포함되지 않았다.

왕은 지난 7월 의회에서 낡은 데이터 보존 및 관리 정책이 국방부의 발목을 잡고 있다고 말했다. 당시 그는 필요한 것은 "이러한 빠른 조달 방법을 두 배로 늘리고 혁신을 계속하는 것"이라고 말했다.

"AI 시스템은 훈련된 데이터만큼만 성능이 향상됩니다."라고 그는 덧붙였다.

2022년 스케일은 연방 기관에 자사 기술에 대한 액세스를 제공하는 약 2억 5천만 달러 규모의 계약을 체결했다. 포괄적 구매 계약은 CDAO가 산하에 둔 합동 AI 센터에서 체결했다.