Na preparação para a eleição de 2024, uma rede de centenas de bots criados por pessoas anônimas compartilhadas em X que semearam desconfiança em Kamala Harris e pediu Republicanos para se unir para trás Donald Trump. Após a vitória e o retorno de Trump ao cargo, os bots começaram a elogios por figuras em seu governo, incluindo secretário de saúde e serviços humanos Robert F. Kennedy Jr. e secretária de imprensa da Casa Branca Karoline Leavitt.
UM Maga A campanha de influência composta por contas falsas de mídia social não é particularmente incomum, nem as preocupações com a atividade digital inautêntica em geral. (Uma análise recente da empresa de segurança cibernética Imperva afirmou que o tráfego automatizado agora é responsável por Metade de todo o tráfego da web.) Mas essa rede de bots tinha uma distinção importante. Quem o construiu estava usando a IA – grandes modelos de idiomas – para gerar seu conteúdo. Por um lado, isso tornou mais eficiente e menos óbvio. Por outro lado, levantou problemas na linha. Quando Trumpworld era jogado em tumulto sobre o manuseio do presidente de arquivos classificados relacionados ao criminoso sexual tardio Jeffrey EpsteinPor exemplo, os bots de repente tomaram partido, com alguns Trump atacando e o procurador -geral Pam Bondi como outros defendiam a administração.
Esse cisma notável entre as contas X automatizadas é descrito em um Novo relatório Da Alethea, uma empresa de análise especializada em tecnologia de mitigação de riscos on -line. Sua plataforma de IA, Artemis, descobriu pelo menos 400 perfis de X falsos envolvidos na campanha, que dependiam do que os pesquisadores da empresa denominaram “PromptPasta”. Ao contrário dos chamados “copypasta”, onde as frases são copiadas literalmente de uma conta para a seguinte e, portanto, mais visíveis, os LLMs respondem às entradas do usuário com uma variedade de respostas semelhantes, embora diferenciadas. “As saídas do PromptPasta são diferenciadas, com variações no fraseado entre as postagens que correspondem a cada prompt de LLM, tornando -as mais difíceis de detectar do que as postagens idênticas compartilhadas por meio de táticas da CopyPasta”, explica o relatório Aletha. “A escala, a velocidade e a disciplina narrativa da rede ilustram como a IA generativa está diminuindo a barreira às operações sofisticadas de influência”. A identidade do ator ou atores por trás da rede permanece desconhecida.
“Suspeitamos que mesmo que essa rede seja maior do que o que atualmente conseguimos encontrar e, certamente, outros atores começaram a usar as mesmas técnicas”, diz C. Shawn Eib, chefe de investigações da Aletea, diz Rolling Stone. Lisa Kaplan, fundadora e CEO da empresa, acrescenta que o problema “se resume a plataformas que não estão aplicando suas próprias políticas em torno de spam e golpes”, observando que “os LLMs são apenas uma nova maneira de criar conteúdo rapidamente e em escala”.
Em 2022, como Elon Musk tentou sair de um acordo acordado para comprar a plataforma então conhecida como Twitter Por US $ 44 bilhões, ele afirmou repetidamente que o site foi invadido com spambots Isso distorceu níveis verdadeiros de engajamento humano. Depois que ele foi forçado a concluir a aquisição, ele declarou que a erradicação de tais contas seria uma prioridade. No entanto, três anos de ajustes controversos e uma rebraça caótica mais tarde, parece que X ainda não pode ou não querer cumprir essa promessa.
A princípio, os bots PromptPasta que Aletea posteriormente descobriram estavam em um alinhamento próximo. Sempre respondendo a grandes mídias ou contas de influenciadores (e nunca um com o outro), eles acusaram Harris de estar no bolso de “Big Pharma”, ou de outra forma corrupto e sem integridade. Em alguns casos, eles se apresentaram como eleitores desligados por seu fracasso em quebrar com o Biden Apoio da administração para Israel Como esse país continuou a bombardear Gaza. Outras contas foram explicitamente codificadas por Maga, postando mensagens sobre como o americano saiu com “nunca pare de tentar destruir o presidente Trump” e oferecendo identificadores específicos como “Sou um orgulhoso republicano do Arizona”.
(Mesmo que os sinais de problemas com a dependência de LLMs começaram a mostrar – alguns dos bots responderam aos posts sobre a Lei de Salvar, a legislação proposta que exigiria prova de cidadania dos EUA para se registrar para votar nas eleições federais, como se o projeto de lei fosse de mulheres que se manifestavam em mulheres que se manifestavam, por exemplo, as pessoas que se dizem que as pessoas que se dizem que as mulheres são as mulheres que se dizem que as pessoas que se dizem que as mulheres são as pessoas que se manifestavam, as pessoas que se dizem que as pessoas que se dizem que as pessoas que se dizem que as pessoas que se dizem que as pessoas que se dizem que as pessoas que se dizem que as pessoas que se dizem que os investigadores são atletos de transgêneros. Competitividade, privacidade e segurança das mulheres, “se estava respondendo ou não a um usuário que realmente postou sobre o tópico em primeiro lugar. Os bots também saudaram Leavitt por sua” honestidade “e” transparência “em suas primeiras aparições como secretária de imprensa enquanto reagia positivamente a Anti-Vaxxers E outros entusiasmados com os planos de Kennedy de “tornar a América saudável novamente”.
Ainda assim, algumas contradições foram aparentemente inevitáveis. Quando Rachel Maddow Anunciou em janeiro que ela estaria ancorando seu show da MSNBC cinco noites por semana durante os primeiros 100 dias de Trump na Casa Branca, os bots entraram em ação. Alguns denunciaram Maddow por “espalhar propaganda de esquerda”, enquanto outros, curiosamente, pareciam enquadrá-la como uma voz importante no discurso político. Em alguns casos, contas individuais expressas ambos Posições, efetivamente se opondo a si mesmos de uma resposta à próxima.
Esse tipo de comportamento confuso explodiu após um Departamento de Justiça e FBI memorando No início de julho, que dizia que não havia evidências de uma “lista de clientes” de Epstein de traficantes sexuais cúmplices – ao contrário das declarações anteriores de Bondi – e nenhuma divulga mais adicional no caso seria apropriada. Cerca de 140 dos bots da rede já haviam pedido transparência e aplaudiram Bondi, Trump e o diretor do FBI Kash Patel por seu suposto compromisso de liberar mais material sobre Epstein. Após o decepcionante memorando, no entanto, esse mesmo cluster foi rapidamente dividido. Enquanto alguns bots continuaram a apoiar o presidente, um grupo de contas severamente críticas sugeriu um encobrimento, especulando que Trump estava mentindo sobre investigações de Epstein, e acusou a administração de ocultar documentos porque Epstein era um agente da CIA e/ou Mossad.
“Essa inconsistência destaca a natureza reflexiva da automação baseada em LLM, que baseia-se em tendências mais amplas no conteúdo de notícias e mídias sociais, em vez de aderir estritamente a um script predefinido escrito por um ator”, afirma o relatório da Alethea. A divisão espelhou a dos influenciadores de maga que também tiveram que escolher se deveriam martelar a Casa Branca na questão de Epstein (um grande ponto de interesse para o conjunto de conspiracistas de direita que Trump teve problemas para descartar como algum tipo de democrata “farsa,“Particularmente, dada sua longa amizade com o financiador) ou racionalize sua abordagem estragada.
“Se você deixar esses bots correr de forma autônoma e permitir que eles interajam com um ambiente de mídia social imprevisível e em rápida mudança, será muito difícil controlar isso, ou mesmo para prever quais resultados você obterá”, diz Vincent Conitzer, diretor do The the Fundamentos do laboratório de IA cooperativos na Carnegie Mellon University e chefe de engajamento técnico da IA no Instituto de Ética da Universidade de Oxford em IA. “Dito isto, existem muitas maneiras diferentes de criar uma rede de bots LLM em interação. Portanto, não devemos pensar que cada vez que alguém tenta isso, terá os mesmos resultados.”
Enquanto isso, “você pode obter LLMs cada vez mais capazes e outros sistemas de IA”, ressalta Conitzer. “A única coisa que me sinto confortável prevendo é que veremos mais tentativas nesse tipo de coisa, e todos devemos pensar muito sobre como podemos confiar no conteúdo que aparece à nossa frente. Em princípio, as plataformas podem tentar ajudar, mas se elas o fazem ou não, como cidadãos, todos temos uma responsabilidade e cuidar disso.”
Pelo menos 70 bots na rede identificados pela Aletea foram removidos por X durante a investigação da empresa. Muitos outros ficaram por aí, mas caíram adormecidos. “Desde a primeira publicação de uma pequena parte de nossas descobertas em 20 de julho, as contas” discordam “com o manuseio dos arquivos Epstein ficaram em silêncio”, diz Eib ao Rolling StoneMas eles não foram suspensos. É possível que o ator que eles tenha notado como eles se afastaram do restante dos bots e fizeram operações parecidas ao considerar uma mudança de estratégia. “Continuaremos a monitorar esta e outras redes para ver como a tecnologia e as técnicas evoluem daqui para frente”, diz Eib.
Na internet, é claro, a reinvenção de spam enganosa nunca cessa. Dos links esboçados em nossas caixas de entrada de e -mail para Imagens de inclinação que impulsionam o engajamento do Facebook Para o X responde que nos tentam a argumentos políticos, fica claro que a IA é uma grande promessa para quem procura nos enganar por meios digitais. É hora de ser mais cético do que nunca do que você lê – e sempre questione se um ser humano o escreveu.
