러시아 및 중국과 연계된 행위자들이 허위 정보를 위해 OpenAI를 사용하는 방법

인공지능 회사 OpenAI의 새로운 보고서는 러시아와 중국에 기반을 둔 배우들이 우크라이나, 대만, 몰도바, 미국과 같은 주제를 중심으로 허위 정보 활동을 강화하기 위해 생성 인공지능을 사용했다고 밝혔다.

이 보고서는 지난 3개월 동안 OpenAI 도구를 사용하여 효과나 도달 범위를 개선한 다섯 가지 정보 작업을 자세히 설명한다. 그들은 함께 어떻게 적들이 지정학적 사건에 대한 인식에 영향을 미치기 위해 고급 인공지능 도구를 사용할 수 있는지에 대한 창을 제공한다.

중심적인 발견: 생성적 인공지능은 매우 제한된 영어 (또는 잠재적으로 다른 언어) 명령을 가진 운영자들이 훨씬 더 진짜처럼 들리도록 허용할 수 있고, 게시물과 댓글에 실제 원어민들로부터 온 것처럼 보이게 만들기 위한 성격을 스며들 수 있다. 미국, 우크라이나, 또는 다른 대상들에 대해 거대한 대중 감정의 인상을 만들면서, 일부 행위자들은 다양한 플랫폼에 걸쳐 그들이 게시할 수 있는 댓글의 수를 확장하기 위해 그 도구를 사용했다. 인터넷 콘텐츠가 합법적인지 여부를 결정할 때 온라인 사용자들이 찾는 몇 안 되는 명백한 징후들 중 하나이기 때문에, 그것은 매우 중요하다.

Bad Grammar라고 불리는 친러시아 단체는 "우크라이나와 몰도바의 대통령들이 부패, 대중의 지지 부족, 그리고 서구의 '간섭'에 대한 자국민들을 배신한 것"이라고 비난하기 위해 OpenAI 도구들을 사용했다. 텔레그램의 영어 논평들은 이민, 경제적 어려움, 그리고 그날의 속보와 같은 주제들에 초점을 맞췄다. 그 보고서에 따르면, 이러한 논평들은 종종 미국이 우크라이나를 지원해서는 안 된다고 주장하기 위해 시사의 맥락을 사용했다. 러시아는 최근에 몰도바를 향해 더 많은 정보 작전들을 목표로 삼았고, 그것이 러시아 침공의 잠재적인 목표가 될지도 모른다는 것을 암시했다.

도플갱어(Doppelganger)라고 불리는 러시아 밖에서 활동하는 또 다른 그룹은 이 도구를 사용하여 영어, 프랑스어, 독일어, 이탈리아어 및 폴란드어 콘텐츠를 게시했으며, 이를 실제보다 훨씬 더 인기 있는 것처럼 보이게 만들었다. "캠페인이 9GAG에 밈 또는 비디오를 게시할 때마다 3~5개의 계정이 답장을 보내며, 보통 '하하하' 또는 'ㅋㅋ'와 같은 간단한 메시지를 보낸다. 이 계정들 각각은 이 캠페인의 콘텐츠에만 참여한 적이 있으며, 대부분은 동일한 날짜에 만들어졌다. 이러한 행동은 종종 다른 사용자들로부터 비판적인 논평을 받았으며, 많은 사용자들은 이 계정을 '봇(bot)'이라고 불렀다."

게시물의 도달 범위를 조작하기 위해 AI를 사용하는 것은 "텔레그램, X, 인스타그램 및 기타 사이트에 걸쳐 대량의 짧은 댓글을 생성하기 위해 우리 모델을 사용"한 배우들 사이에서도 일반적이었다

중국 배우들은 그들의 운영을 개선하고 플랫폼의 분석, 보안 결함, 온라인 청중의 감정 등을 확장하기 위해 대신 인공지능을 사용하는 그 도구를 트롤 콘텐츠에 사용할 가능성이 적었다. 스팸모조라고 불리는 한 중국 그룹은 "코드를 디버깅하고, 소셜 미디어 분석에 대한 조언을 구하고, 뉴스와 최신 사건을 조사하고, 블로그 포럼과 소셜 미디어에 게시된 콘텐츠를 생성하기 위해 그 도구를 사용했다." 그리고 그들은 "많은 수의 소셜 미디어 게시물, 특히 중국어 게시물의 감정을 요약하고 분석하기 위해 우리의 모델을 사용했다. IUVM을 대신하여 행동하는 사람들은 웹사이트 태그를 만들기 위해 우리의 모델을 사용했고, 그 태그는 그 다음 그룹의 웹사이트에 자동으로 추가된 것으로 보인다."

OpenAI의 분석에 따르면, Breakout Scale에 의해 측정된 바와 같이, 어떤 캠페인도 큰 효과를 거두지 못했다. 그러나 그것들은 적들이 텔레그램과 같은 외국의 소셜 미디어 플랫폼뿐만 아니라 이전에 트위터였던 X와 같은 국내 소셜 미디어 플랫폼에서 청중의 인식에 영향을 미치기 위해 이미 미국 기반의 인공지능 도구를 사용하려고 하고 있다는 것을 보여준다.

국가안보 관리들은 선거 관련 허위 정보에 대한 AI의 위협이 증가하고 있다고 수개월 동안 경고해 왔으며, 지난 3월 아브릴 헤인스 ODNI 국장은 정부 지도자들이 부패에 연루된 것을 보여주기 위해 친러시아 행위자들이 주장하는 깊은 가짜 오디오 콘텐츠를 만들고 퍼뜨리는 것을 허용함으로써 올해 초 슬로바키아 선거에서 AI가 중요한 역할을 했을 수 있다고 말했다.

OpenAI의 보고서는 AI가 생성한 콘텐츠에 명확한 라벨이 부착되도록 법을 마련하려는 회사의 노력에 따른 것이지만, AI가 생성한 콘텐츠에 대한 탐지는 개선되고 있지만, 여전히 나쁜 행위자는 중재자가 행동할 수 있는 것보다 훨씬 더 빨리 이를 생성하고 확산할 수 있음을 보여준다.