중국이 틱톡, AI, 빅데이터를 활용해 대만 선거 공략에 나선 방법

중국은 미국 의원들과 언론자유 옹호자들이 소셜미디어 플랫폼이 야기하는 위협에 대해 토론하고 있음에도 불구하고 구체적인 허위 정보를 퍼뜨리기 위해 대만 등에서 틱톡 인플루언서를 양성했다고 대만 연구진이 월요일(8일)에 밝혔다.

중국 정부는 정부 관련 계정과 생성 AI를 이용해 가짜 동영상을 밀어내고, 제3자와 다른 데이터를 이용해 메시지를 미세 타겟팅하고 특정 개인에게 영향력을 행사해왔다. 연구진은 대만에서 중국의 노력이 미국 정부와 국내외 군에 대한 지원을 약화시키기 위해 전 세계적으로 사용할 수 있는 전술과 기술을 엿볼 수 있다고 말했다.

소프트웨어 디자이너이자 대만 정보환경연구센터(IORG)의 공동 책임자인 치하오 위는 지난 1월 대만 선거를 앞두고 중국이 "대만의 목소리를 이용해 대만의 신용을 떨어뜨리고, 공식 브랜드나 개인 또는 인플루언서를 양성해 허위 정보 흐름을 촉진했다"고 기자들에게 말했다.

IORG는 많은 틱톡 인플루언서들이 허위 정보를 단순한 비즈니스 관행으로 취급하기 때문에 더 강력한 링크를 찾고자 했다. 그들은 인플루언서가 공유하는 콘텐츠를 프레임 단위, 심지어 픽셀 단위로 분석하여 출처가 중국 정부일 가능성이 높다는 것을 보여주었다. 종종 여러 국가의 인플루언서 그룹이 중국 공산당이 영향을 미치려고 했던 이슈와 관련하여 유사한 콘텐츠를 동시에 공개할 수도 있다.

그는 "이는 현장에 있는 이 인플루언서들이 PRC 행위자들과 최소한 모종의 조율을 하고 있음을 보여주는 더욱 강력한 신호"라고 말했다.

중국은 메시지에서 다양한 음모론적 주제에 의존하고 있는데, 예를 들어 미국이 대만에 생물 무기 실험실을 건설하려고 시도하고 있고, 중국을 분쟁으로 끌어들이려고 하고 있으며, 미국은 내전 직전이기 때문에 가난한 동맹국이라는 것이다.

대만 팩트체크 센터의 이브 치우 편집장은 대만 선거 당국이 투표함에 물건을 채우고 심지어 투표용지를 파괴하는 것을 보여주는 가짜 비디오를 만들기 위해 생성 인공지능을 사용하려는 노력을 지적했다. 그녀는 또한 미군이 특정 대만 후보를 지지했다고 말하면서 미국 하원의원 롭 비트만(R-Va)을 보여주는 것으로 알려진 딥페이크 비디오를 강조했다.

공공의 허위정보 감시 단체인 Cofacts의 공동 설립자인 Billion Lee는 중국이 빅데이터, 제3자 데이터 등을 이용하여 게시물과 허위정보 스레드를 가진 특정 개인을 표적으로 삼을 수 있지만, 지금은 중국의 허위정보 게시물의 약 10%에 불과하다고 말했다.

대만 법무부 조사국 소속인 위핑 리우는 중국이 여전히 소셜미디어의 구체적인 게시물을 봇처럼 들리는 것이 아니라 설득력 있게 만들기 위해 중국 전역과 다른 곳에서 현지 인간 '협조자'를 활용해야 한다고 말했다.

이는 AI, 특히 대형 언어 모델의 광범위한 채택이 특히 영어권 국가의 경우 중국의 허위 정보 캠페인의 효과를 크게 향상시킬 수 있음을 시사한다.