A IA Slop Farms está produzindo vídeos emocionantes falsos sobre figuras de Trump – Madre Jones

O juiz exigiu A secretária de imprensa da Casa Branca, Karoline Leavitt, remove seu colar cruzado, mas logo ele foi humilhado. Um homem tentou gritar com o vice -presidente JD Vance em um café, mas logo ele também foi baixado. Barron Trump triunfou em um debate sobre um “estudante liberal” que teve uma semelhança impressionante com a atriz Emma Watson.

No YouTube, os vídeos com esses contos bizarros e exagerados estão proliferando, alegando que as figuras do mundo de Trump superaram seus antagonistas durante micro-interações: em restaurantes, na rua, em casos judiciais pouco conhecidos e em programas de entrevistas noturnos. Esses vídeos geralmente geram milhares de visualizações e uma enxurrada de comentários de apoio – e todos são completamente falsos.

Os vídeos fazem parte de um rio cada vez mais amplo de IA Slop que atravessa a Internet, feita para impulsionar o engajamento-uma torrente de conteúdo de baixa qualidade e gerado artificialmente que é por mais desajeitado que seja onipresente. A IA Slop é especialmente prevalente em Tiktok e Facebook, onde é frequentemente criado por Trabalhadores independentes de baixo salário Nos países em desenvolvimento, usando o conteúdo gerado pela IA como uma maneira de ganhar dinheiro enquanto estava sentado perto do degrau de uma economia global.

Após a segunda eleição de Trump, canais essencialmente anônimos criaram dezenas de vídeos contando histórias emocionantes sobre os jogadores no mundo de Trump. Os vídeos do YouTube tendem a se concentrar em pequenas interações, apresentando narrativas inventadas em que uma celebridade do MAGA – geralmente o secretário de imprensa Karoline Leavitt ou Barron Trump, em um número surpreendente de casos – com algum desafio e saiu vitorioso. Os vídeos são publicados por contas com nomes como Stories de Elite e Sr. Robe Stories, que dizem que ele oferece “tocar histórias, histórias sobre entendimento, empatia e igualdade dos direitos humanos”. Vários canais têm anúncios em seus vídeos, o que significa que os vídeos estão sendo monetizados.

A maioria dos canais adiciona um aviso na descrição do canal ou nos próprios vídeos de que as histórias são falsas. Os vídeos do Robe Stories, por exemplo, oferecem um aviso nos primeiros quadros de seus vídeos que diziam que as histórias são falsas. O próprio aviso parece gerado pela IA, com a redação desajeitada e repetitiva que é uma marca registrada de conteúdo gerado por máquina. Ele lê, na íntegra: “Todas as histórias compartilhadas neste canal são puramente fictícios e criadas para fins de entretenimento, mas queremos um planeta onde as pessoas tenham o direito à igualdade perante a lei, uma sociedade que é cada vez mais justa, desenvolvida e civilizada.

Eu localizei pelo menos dez contas, produzindo especificamente a inclinação política de IA focada no governo e na família Trump. Enquanto muitas das contas possuem dezenas ou até centenas de milhares de assinantes, é difícil dizer quantos desses seguidores são humanos reais. (Dezenas de sites desonestos oferecem ferramentas para comprar assinantes do YouTube, mesmo que a prática viole os termos de serviço da empresa.)

Mas muitos desses vídeos parecem estar recebendo interação de pessoas reais que parecem pensar que os vídeos contam histórias reais, a julgar pelo grande volume de comentários de apoio e crédulos, como “Pam derrotará esse juiz, Deus sempre ganha!” E os vídeos podem acumular um grande número de visualizações em um período muito curto de tempo: o Histórias de elite O Channel foi criado em outubro e produziu seu primeiro vídeo no final de novembro, mas já recebeu mais de 31 milhões de visualizações, de acordo com a página de informações da conta. (Mãe Jones contatou histórias de elite e várias outras contas para comentar, mas não recebeu nenhuma resposta.)

Muitas das contas produzem vários vídeos por dia. Conteúdo semelhante é replicado nas contas – que podem indicar que as contas são operadas pela mesma pessoa ou pessoas, ou simplesmente o que o que faz bem em uma conta é copiado rapidamente. Qualquer que seja a explicação, Temas altamente específicos são repetidos com frequência. Histórias sobre colares cruzados, por exemplo, são especialmente populares: um vídeo sobre um juiz fictício exigindo que o procurador -geral Pam Bondi remova um colar cruzado gerou 2,8 milhões de visualizações até agora. (Uma história substancialmente semelhante em outra conta se saiu menos bem, com Apenas 109.000 visualizações.) Um sobre Karoline Leavitt sendo multado por um juiz por usar seu colar cruzado, antes de perceber que é um “gênio legal”, foi Visto cerca de 89.000 vezes.

Leavitt frequentemente usa um colar cruzado atraenteE quem procura notícias sobre suas jóias provavelmente tropeçará em um vídeo gerado pela IA. (Outro tema comum, embora um pouco menos bem -sucedido, é Barron Trump Procurando adotar um cachorro, às vezes acompanhado por uma namorada loira gerada pela IA.)

YouTube tem uma política de desinformaçãoque proíbe “conteúdo enganoso ou enganoso que representa um sério risco de danos flagrantes”. Sob essa métrica, não há danos “flagrantes” em um número desconhecido de pessoas pensando que, por exemplo, Barron Trump recebeu um Golden Retriever.

O conteúdo também continua a existir no site ao mesmo tempo no YouTube Apoiando o ato de no FakesUma parte da legislação bipartidária que trabalha no Congresso, que deve, como um dos autores do projeto de lei, a deputada Madeleine Dean (D-Pa.) coloque -o em um comunicado de imprensa, Aborde a “disseminação desenfreada de DeepFakes Deepfakes gerados por IA não autorizados, sem impedir a inovação ou censurar a liberdade de expressão”. Em seu próprio comunicado de imprensa, apoiando o projeto, o vice -presidente de políticas públicas do YouTube disse que o apoio da empresa à legislação “reflete nosso compromisso de moldar um futuro em que a IA é usada com responsabilidade”.

Em resposta a um pedido de comentário, um porta -voz do YouTube disse à mãe Jones que havia excluído uma das páginas, histórias de elite, “por violar nosso Política de spam“, Que” se aplica a todos os canais, independentemente de o conteúdo ser gerado usando ferramentas de IA “. O porta -voz acrescentou: “Quando um canal é encerrado, é contra o nosso Termos de Serviço usar outro canal para contornar essa decisão. ”

Muitas das histórias de vídeo usam um narrador gerado pela IA que fala em uma cadência lenta e profissional-como um ator lendo um audiolivro. Eles estão claramente destinados a curvas enfurecer e acalmar o público, pintando uma imagem de Injustes que são, no final do vídeo, acertados. Alguns comentaristas sinalizaram que entendem que os vídeos são falsos, mas apreciam -os de qualquer maneira. “Eu tenho ouvido várias histórias sobre Keanu Reeves. Então, decidi investigar e descobri que eram apenas histórias”, escreveu uma pessoa em um vídeo de Bondi Cross. “Então agora, quando ouço essas coisas, a primeira coisa que digo a mim mesma é: isso é apenas para entretenimento.”