한눈에
OpenAI가 10월 8일 위협 보고서를 냈다. 러시아와 이란에서 온 여론 공작 두 건이 ChatGPT를 쓰다 계정이 막혔다. 둘 다 진짜처럼 보이는 단체나 기자를 내세우는 ‘가짜 간판’ 방식이었다.
OpenAI는 AI 이전 시대의 공작과 거의 같은 방식이고, AI는 일부 작업을 쉽게 만들었을 뿐이라고 봤다.
러시아: Dark Clark
러시아에서 접속한 운영자들은 중남미에 ‘사회연구센터’라는 연구 단체를 두고 가짜 인물 ‘Mia Clark’로 관리했다. 현지 직원들은 러시아 조직을 위해 일한다는 사실을 몰랐던 것으로 보인다.
운영자들은 우크라이나와 아르헨티나·볼리비아·에콰도르 지도자를 깎아내리는 가짜 이메일, 가짜 음성, 가짜 문서를 퍼뜨렸다고 내부 보고서에 적었다. 일부는 팩트체크와 정부 공식 부인까지 불렀다.
ChatGPT는 주로 상부에 올리는 내부 보고서를 쓰는 데 썼다. OpenAI는 이 공작을 파급력 척도 6단계 중 5단계로 평가했다. 2년 반 동안 막은 공작 중 처음이다.
이란: Bogus Bylines
이란 운영자들은 미국 기자처럼 꾸민 가짜 필자 7명을 내세웠다. 미국·이란 전쟁을 다룬 장문 기사 약 100편이 10여 개 온라인 매체에 실렸다. ChatGPT로 매체 투고 기준에 맞게 원고를 고치고 투고 메일을 썼다.
댓글 공작도 병행했지만 반응은 거의 없었다. 기사 쪽은 4단계, 댓글 쪽은 2단계로 평가됐다. 내부 보고서에선 성과를 부풀리는 계산법을 썼다.
왜 중요한가
OpenAI가 2년 반 동안 공개한 여론 공작은 30건이다. 그중 실제 언론에 글을 싣는 공작이 소셜 미디어에만 기대는 공작보다 파급력이 컸다. OpenAI는 이런 가짜 간판은 정체가 드러나면 대개 활동을 멈춘다며 공개 자체가 방어 수단이라고 했다.