중국이 생성형 AI를 사용하여 대만에서 전 세계를 조종하는 방법

RAND의 연구자들에 따르면 중국 연구자들은 이미 ChatGPT와 유사한 생성형 AI 도구를 사용하여 전 세계 사용자를 조작하는 방법을 연구하고 있으며, 이러한 도구를 사용하여 대만에 대한 인식을 형성할 가능성이 높다.

"인민해방군과 중국 공산당의 이전 의도와 이전 행동을 고려할 때... 논리적으로 중국의 다음 목표는 대만의 [2024년 대통령] 선거가 될 것이라고 생각합니다."라고 RAND에서 아시아 안보 문제에 중점을 둔 정책 연구원인 네이선 보샹-무스타파가는 목요일에 기자들에게 말했다. 

중국이 주요 표적 지역에서 외국 여론을 변경하거나 조작하기 위해 기술을 사용하는 것에 대한 연구는 적어도 2005년으로 거슬러 올라가는데, 당시 PLA 연구원들은 "악의적인 목적으로 온라인에 퍼뜨리기 위해 일정량의 원본 정보를 사용하여 진위가 아닌 콘텐츠를 만들어 '합성 정보'라고 부르는 것을 구체적으로 만들려는 욕구를 지지했다"고 RAND 연구원들은 새로 발표한 논문에서 기록했다.

중국은 중국 정부의 검열과 외신 채널 차단에 대한 집착으로 인해 무기화된 허위 정보에 있어서는 러시아처럼 더 능숙한 국가에 비해 불리한 위치에 있다. 하지만 생성형 AI 도구가 이를 바꿀 수 있다. "ChatGPT와 같은 생성형 AI[대규모 언어 모델]는 이러한 당국의 문화적 격차를 대규모로 해소할 수 있습니다. 그러나 제너레이티브 AI는 방대한 양의 학습 데이터에 의존하기 때문에 인민해방군의 핵심 초점이 될 것이며, 인민해방군 정보전 연구자들은 내부 데이터 공유 부족에 대해 불평하기도 했습니다."라고 이 논문은 말했다.

이 논문은 중국 내에서 AI의 군사적 응용 분야를 찾는 임무를 맡은 중국 AI 연구원 리비청의 노력을 지적했다. 이 논문은 리가 "대만에서 소셜 미디어를 통한 선거 개입 혐의로 기소된 직후 311기지의 한 연구원과 함께 2019년 논문을 공동 집필했다는 사실에서 그가 인민해방군 내에서 특별한 중요성을 지니고 있음을 알 수 있다"고 지적했다. 

리는 특히 소셜 미디어에 영향을 미치는 봇에 대한 연구를 주도해 왔으며, 현재 이러한 봇은 언어에 능숙하지 않고 자신에 대한 간단한 전기적 질문에 대답할 수 없기 때문에 탐지하기 쉽고 설득력이 떨어진다고 지적했다. 리는 현재 "텍스트 생성에 감정을 더 잘 활용하여 보다 설득력 있는 합성 텍스트를 생성할 수 있도록 언어 모델의 출력을 개선"하는 작업을 진행 중이라고 이 논문에서 밝혔다.

생성형 AI가 대만의 여론을 어떻게 변화시키거나 영향을 미칠 수 있을까? 제너레이티브 AI 도구는 PLA가 특정 견해나 의견을 가진 것처럼 보이는 가짜 페르소나를 대량으로 생성하여 특정 의견이나 견해가 실제로는 대중의 지지를 받고 있지 않은데도 대중의 지지를 받는 것처럼 보이게 하는 데 도움이 될 수 있으며, 이러한 현상을 "아스트로터핑"이라고 부르기도 한다. 또한, 제너레이티브 AI는 가짜 뉴스 기사, 연구 논문, 기타 페이지를 빠르게 생산할 수 있게 하여 진실 자체를 거짓으로 인식하게 만들 수도 있다.

"사람들은 이미지나 동영상에 대한 딥 페이크에 대해 자주 생각하지만, 이를 통해 더 신뢰할 수 있는 딥 페이크 효과를 낼 수 있게 될 것입니다. 따라서 제시하고자 하는 내용을 사실인 것처럼 보이게 하려는 경우 이러한 도구를 사용하면 매우 쉽게, 또는 매우 쉽게 할 수 있습니다."라고 RAND의 국제 안보 및 국방 정책 프로그램 부국장인 Heather Williams는 기자에게 말했다. "우리가 알고 있는 세상이 계속된다면 일어날 미래의 무질서나 재난에 대한 과장된 예측일 수도 있고, 사건을 통제하거나 내정을 장악하려는 소규모 집단에 대한 음모일 수도 있습니다... 이러한 3세대 소셜 미디어 조작 도구로 인해 악의적인 행위자가 이러한 허위 사실을 더 신뢰할 수 있게 될 것입니다."라고 말했다.

RAND 연구원들은 대만이 주요 표적이 될 것이라는 구체적인 정보는 없다고 말했지만, 미국 관리들은 중국의 대만 침공이 2027년에 일어날 수 있다고 경고했다. 그리고 2024년 대만의 총통 선거는 향후 몇 년 동안 대만에 대한 중국의 행동에 큰 영향을 미칠 수 있다. 

중요한 것은 중국이 대규모 미디어 조작을 위해 인공 지능을 활용하는 방안을 모색하고 있는 상황에서 미국의 소셜 미디어 플랫폼은 이를 방어할 수 있는 준비가 되어 있지 않다는 점이다. 가장 인기 있는 네트워크 중 하나인 틱톡은 중국계입니다. 공식적으로 트위터인 X는 몇 년 전보다 국가가 지원하는 대규모 미디어 조작을 찾아내기 어렵게 되었는데, 이는 X의 소유주인 엘론 머스크가 허위 정보 감시를 담당하던 데이터 팀을 해고한 이후다. 놀랍지 않게도 최근 EU의 한 보고서에 따르면 러시아의 허위 정보가 최근 급증한 것으로 나타났다.  

윌리엄스는 "소셜 미디어 공간에서 일어나고 있는 매우 우려스러운 추세입니다. 소셜 미디어 제공업체가 알아서 운영하도록 내버려두면 나쁜 일이 벌어진 지난 10년, 20년 동안의 역사를 우리는 알고 있습니다. 트롤에게 넘어가는 것입니다."라고 했다.