Os propagandistas estrangeiros continuam usando o ChatGPT em campanhas de influência
Propaganda chinesa e operações de engenharia social Para criar postagens, comentários e impulsionar o engajamento em casa e no exterior. Openai Disse que recentemente interrompeu quatro operações de influência secreta chinesa que estavam usando sua ferramenta para gerar postagens de mídia social e respostas em plataformas, incluindo Tiktok, Facebook, Reddit e X.
Os comentários gerados giravam em torno de vários tópicos da política dos EUA para um Taiwanês videogame Onde os jogadores lutam contra o Partido Comunista Chinês. O ChatGPT foi usado para criar postagens de mídia social que apoiaram e criticaram diferentes problemas de botão quente para provocar discursos políticos enganosos.
Ben Nimmo, pesquisador principal da Openai “O que estamos vendo da China é uma gama crescente de operações secretas usando uma gama crescente de táticas”. Enquanto o Openai afirmou que também interrompeu um punhado de operações que acredita se originaram na Rússia, Irã e Coréia do Norte, o NIMMO elaborou as operações chinesas, dizendo que “direcionaram muitos países e tópicos diferentes (…) alguns deles elementos combinados de operações de influência, engenharia social, vigilância”.
Isso está longe da primeira vez que isso ocorreu. Em 2023, descobriram que o conteúdo gerado pela IA foi usado em campanhas de influência on-line de motivação política em vários casos desde 2019.
Em 2024, Descrevendo seus esforços para interromper cinco operações afiliadas ao Estado em toda a China, Irã e Coréia do Norte que estavam usando modelos Openai para intenções maliciosas. Esses aplicativos incluíam código de depuração, geração de scripts e criação de conteúdo para uso em campanhas de phishing.
Nesse mesmo ano, o OpenAi disse isso Isso estava usando o ChatGPT para criar artigos políticos de longa data sobre as eleições dos EUA que foram publicadas em sites de notícias falsas que se apresentam como tomadas conservadoras e progressistas. A operação também estava criando comentários para postar em X e Instagram por meio de contas falsas, adotando novamente pontos de vista opostos.
“Geralmente não vimos essas operações obtendo mais engajamento por causa do uso de IA”, Nimmo . “Para essas operações, melhores ferramentas não significam necessariamente melhores resultados”.
Isso oferece pouco conforto. Como IA generativa fica mais barato e É lógico que sua capacidade de gerar conteúdo em massa tornará campanhas de influência como essas mais fáceis e acessíveis de construir, mesmo que sua eficácia permaneça inalterada.
