OpenAI는 지난 금요일 블로그 게시물에서 미국 대통령 선거에 관한 콘텐츠를 생성하는 이란 영향작업과 연결된 일련의 ChatGPT 계정을 금지했다고 밝혔다. 회사는 해당 작업이 AI로 생성된 기사와 소셜 미디어 게시물을 만들었지만, 큰 관중에 도달하지 않은 것으로 보인다.
OpenAI가 악의적으로 ChatGPT를 사용하는 국가 관련 행위자와 연결된 계정을 금지한 것은 이번이 처음이 아니다. 5월에 회사가 ChatGPT를 사용하여 대중 의견을 조작하는데 사용한 5개 캠페인을 방해했다.
이러한 사건들은 Facebook과 Twitter와 같은 소셜 미디어 플랫폼을 이용하는 국가 행위자들의 과거 선거 주기에 영향을 미치려는 시도를 연상시킨다. 이제 비슷한 그룹들(또는 이전의 것들)이 가짜 정보를 소셜 채널로 채우기 위해 생성 AI를 사용하고 있다. 소셜 미디어 회사와 마찬가지로, OpenAI도 이러한 노력과 관련된 계정을 나타날 때마다 금지하는 것으로 보인다.
OpenAI는 지난 주 발표된 Microsoft 위협 인텔리전스 보고서로부터 이 계정 클러스터의 조사를 수행했다고 밝혔으며, 이 보고서에서 Storm-2035라고 불리는 이 그룹이 2020년부터 활동 중인 미국 선거에 영향을 미치기 위한 보다 광범위한 캠페인의 일부로 취급되고 있다.
Microsoft는 Storm-2035가 미국 선거에 영향을 미치기 위해 미국 유권자 그룹들과 미국 대통령 후보자, LGBTQ 권리, 이스라엘-하마스 갈등과 같은 이슈에 대한 분열적인 메시지로 대립하는 미국 네트워크라고 밝혔다. 이러한 작전은 다른 작전에서 입증된 대로 특정 정책을 혹은 다른 정책을 홍보하는 것이 아니라 불만과 충돌을 일으키는 것이다.
OpenAI는 Storm-2035에 대한 다섯 개의 웹 사이트의 위장을 식별했으며, 'evenpolitics.com'과 같은 설득력 있는 도메인 이름으로 진보적인 뉴스 매체와 보수적인 뉴스 매체로 나타났다. 이 그룹은 ChatGPT를 사용하여 'X가 트럼프의 트윗을 검열한다'는 주장을 비롯한 여러 장편 기사를 작성했으며, 엘론 머스크의 플랫폼이 분명히 그렇게 할 필요가 없다 (오히려 머스크는 전 대통령 도널드 트럼프가 X에서 더 많이 참여하도록 권장하고 있다).
OpenAI는 이 작전을 통제하는 X 계정과 인스타그램 계정 12개를 식별했다. 회사는 ChatGPT가 다양한 정치적 댓글을 다시 작성한 후 이를 이러한 플랫폼에 게시하는 데 사용되었다고 밝혔다. 이들 중 하나의 트윗은 가짜로서 혼란스러운 내용으로 '카말라 해리스가 온실 가스로 인한 이민 비용을 증가시킨다고 주장했으며, 이에 '#처형카말라'가 뒤따랐다.
OpenAI는 Storm-2035의 기사가 널리 공유된 증거를 발견하지 못했으며, 대부분의 소셜 미디어 게시물이 좋아요, 공유 또는 댓글을 거의 받지 못했다고 언급했다. 이러한 작전에서는 이러한 경우가 종종 발생하며, ChatGPT와 같은 AI 도구를 사용하여 빠르고 저렴하게 구축할 수 있다. 선거가 접근하고 온라인 양보가 강화됨에 따라 더 많은 이와 같은 공지를 기대할 수 있다.
