O Conselho de Supervisão diz que a Meta não está fazendo o suficiente para combater os golpes de celebridade deepfake

Os golpes que usam a AI DeepFakes de celebridades se tornaram uma questão cada vez mais proeminente para a meta nos últimos dois anos. Agora, o quadro de supervisão tem pesou e aparentemente confirmou o que outros críticos disseram: Meta não está fazendo o suficiente para fazer cumprir suas próprias regras e facilita demais para os golpistas se safar desses esquemas.

“A Meta provavelmente está permitindo que quantidades significativas de conteúdo de fraudes em suas plataformas evitem potencialmente sobrecarregar um pequeno subconjunto de endossos genuínos de celebridades”, escreveu o conselho em sua última decisão. “Os revisores em escala não têm o poder de fazer cumprir essa proibição de conteúdo que estabelece uma persona falsa ou finge ser uma pessoa famosa para enganar ou fraudar”.

Essa conclusão ocorreu como resultado de um caso envolvendo um anúncio para um jogo de estilo de cassino online chamado Plinko, que usou um vídeo manipulado da AI-Manipulado de Ronaldo Nazário, um jogador de futebol brasileiro aposentado. O anúncio, que, de acordo com o conselho, mostrou sinais óbvios de ser falso, não foi removido pela Meta, mesmo depois de ter sido relatado como uma farsa mais de 50 vezes. A Meta mais tarde removeu o anúncio, mas não a postagem subjacente no Facebook por trás dele até que o Conselho de Supervisão concordasse em revisar o caso. Foi visto mais de 600.000 vezes.

O conselho diz que o caso destaca falhas fundamentais em como a meta aborda a moderação do conteúdo para golpes relatados envolvendo celebridades e figuras públicas. O Conselho diz que a Meta disse a seus membros que “aplica a política apenas sobre escalada para garantir que a pessoa retratada no conteúdo não endossou o produto” e que a “interpretação dos revisores individuais do que constitui uma” persona falsa “poderia variar entre regiões e introduzir inconsistências na execução”. O resultado, de acordo com a placa de supervisão, é que uma quantidade “significativa” de conteúdo de fraude provavelmente está deslizando pelas rachaduras.

Em sua única recomendação à Meta, o Conselho pediu que a empresa deve atualizar suas diretrizes internas, capacitar os revisores de conteúdo a identificar esses golpes e treiná-los em “indicadores” do conteúdo manipulado da AI. Em comunicado, um porta -voz da Meta disse que “muitas das reivindicações do conselho são simplesmente imprecisas” e apontadas para um teste Começou no ano passado que usa a tecnologia de reconhecimento facial para combater golpes de “isca de celebridade”.

“Os golpes cresceram em escala e complexidade nos últimos anos, impulsionados por redes criminosas cruéis”, disse o porta-voz. “À medida que essa atividade se tornou mais persistente e sofisticada, portanto, nossos esforços para combatê -la. Estamos testando o uso da tecnologia de reconhecimento facial, aplicando agressivamente contra golpes e capacitando as pessoas para se proteger por muitas diferentes ferramentas de segurança de plataforma.

Os golpes que usam a IA DeepFakes of Celebridades se tornaram um grande problema para a Meta, à medida que a AI Tech fica mais barata e mais facilmente acessível. No início deste ano, relatei que dezenas de páginas estavam executando anúncios com fagos DeepFakes de Elon Musk e personalidades da Fox News promovendo suplementos que alegou curar o diabetes. Algumas dessas páginas executaram repetidamente centenas de versões desses anúncios com aparentemente poucas repercussões. A Meta desativou algumas das páginas após a minha reportagem, mas anúncios de fraude semelhantes persistem no Facebook até hoje. Atriz Jamie Lee Curtis também recentemente bateu publicamente Mark Zuckerberg por não remover um anúncio de Facebook de fundo que a apresentou (a Meta removeu o anúncio após seus posts públicos).

A placa de supervisão destacou da mesma forma a escala do problema neste caso, observando que encontrou milhares de anúncios em vídeo promovendo o aplicativo Plinko na biblioteca de anúncios da Meta. Ele disse que vários deles apresentavam a AI Deepfakes, incluindo anúncios com outra estrela do futebol brasileiro, Cristiano Ronaldo, e o CEO da Meta, Mark Zuckerberg.

O Conselho de Supervisão não é o único grupo que aumentou o alarme sobre golpes nas plataformas da Meta. The Wall Street Journal relatado recentemente Que a Meta “representou quase metade de todos os golpes relatados em Zelle para o JPMorgan Chase entre os verões de 2023 e 2024” e que “os reguladores britânicos e australianos encontraram níveis semelhantes de fraude originária nas plataformas da Meta”. O artigo observou que a Meta está “relutante” em adicionar atrito ao seu processo de compra de anúncios e que a empresa “descreve” a proibição de anunciantes, mesmo aqueles com histórico de realizar golpes.

Se você comprar algo através de um link neste artigo, podemos ganhar comissão.