Repórter de tecnologia
Getty ImagesO gerador de vídeo da AI de Elon Musk foi acusado de fazer “uma escolha deliberada” para criar clipes sexualmente explícitos de Taylor Swift sem promover, diz um especialista em abuso on -line.
“Isso não é misoginia por acidente, é por design”, disse Clare McGlynn, professora de direito que ajudou a redigir uma lei que tornaria ilegal os deepfakes pornográficos.
De acordo com um relatório da VergeO novo modo “picante” da GROK Imagine não hesitou em cuspir vídeos de topless totalmente sem censura “da estrela pop sem ser convidado a fazer conteúdo explícito.
O relatório também disse que os métodos adequados de verificação de idade – que se tornaram lei em julho – não estavam em vigor.
Xai, a empresa por trás da GROK, foi abordada para comentar.
Xai é o próprio Política de uso aceitável proíbe “retratar semelhanças de pessoas de maneira pornográfica”.
“Que esse conteúdo é produzido sem promover demonstra o viés misógino de muita tecnologia de IA”, disse o professor McGlynn, da Universidade de Durham.
“Plataformas como X poderiam ter evitado isso se tivessem escolhido, mas fizeram uma escolha deliberada para não fazê -lo”, acrescentou.
Esta não é a primeira vez que a imagem de Taylor Swift é usada dessa maneira.
Fakes de Deepfation sexualmente explícitos usando seu rosto se tornaram virais e foram vistos milhões de vezes em X e Telegram em janeiro de 2024.
DeepFakes são imagens geradas por computador que substituem a face de uma pessoa por outra.
‘Completamente sem censura, completamente exposto’
Ao testar os guardrails de Grok Imagine, o escritor de News Verge Jess Weatherbed entrou no aviso: “Taylor Swift comemorando o Coachella com os meninos”.
Grok gerou imagens estáticas de Swift usando um vestido com um grupo de homens atrás dela.
Isso pode ser animado em clipes de vídeo curtos em quatro configurações diferentes: “Normal”, “Fun”, “Custom” ou “Picay”.
“Ela arrancou (o vestido) imediatamente, não tinha nada além de uma calcinha por baixo, e começou a dançar, completamente sem censura, completamente exposta”, disse à BBC News à BBC News.
Ela acrescentou: “Foi chocante o quão rápido eu me encontrei com isso – de maneira alguma pedi para remover suas roupas, tudo o que fiz foi selecionar a opção ‘picante'”.
Gizmodo relatou Resultados igualmente explícitos de mulheres famosas, embora algumas pesquisas também tenham devolvido vídeos embaçados ou com uma mensagem “moderada por vídeo”.
A BBC não conseguiu verificar independentemente os resultados das gerações de vídeo da IA.
A Ms Weatherbed disse que se inscreveu na versão paga do Grok Imagine, que custou 30 libras, usando uma nova conta da Apple.
Grok pediu sua data de nascimento, mas não havia outra verificação de idade, disse ela.
Sob Novas leis do Reino Unido que entraram em vigor no final de julho, as plataformas que mostram imagens explícitas devem verificar a idade dos usuários usando métodos “tecnicamente precisos, robustos, confiáveis e justos”.
“Sites e aplicativos que incluem ferramentas generativas de IA que podem gerar material pornográfico são regulamentadas sob a Lei”, disse o regulador da mídia da BBC News.
“Estamos cientes das ferramentas de risco crescente e de desenvolvimento rápido que podem representar no espaço on-line, especialmente para as crianças, e estamos trabalhando para garantir que as plataformas coloquem salvaguardas apropriadas para mitigar esses riscos”, afirmou em comunicado.
Novas leis do Reino Unido
Atualmente, a geração de deeffakes pornográficos é ilegal quando usada em pornografia de vingança ou mostra crianças.
O Prof McGlynn ajudou a redigir uma emenda à lei que tornaria ilegal a geração ou solicitação de todos os deepfakes pornográficos não consensuais.
O governo se comprometeu a fazer essa lei de emenda, mas ainda está para entrar em vigor.
“Toda mulher deve ter o direito de escolher quem possui imagens íntimas dela”, disse a Baronesa Owen, que propôs a emenda na Câmara dos Lordes.
“É essencial que esses modelos não sejam usados de tal maneira que viole o direito de uma mulher de consentir se ela é uma celebridade ou não”, continuou Lady Owen em comunicado dado à BBC News.
“Este caso é um exemplo claro de por que o governo não deve demorar mais na implementação das emendas dos Lordes”, acrescentou.
Um porta -voz do Ministério da Justiça disse: “Fakes de Deepfation sexualmente explícitos criados sem consentimento são degradantes e prejudiciais.
“Recusamos tolerar a violência contra mulheres e meninas que mancham nossa sociedade, e é por isso que aprovamos a legislação para proibir sua criação o mais rápido possível”.
Quando os foscos pornográficos de DeepFakes usando o rosto de Taylor Swift se tornaram virais em 2024, X bloqueou temporariamente as pesquisas por seu nome na plataforma.
Na época, X disse que estava “removendo ativamente” as imagens e tomando “ações apropriadas” contra as contas envolvidas na espalhá -las.
A Sra. Weathers disse que a equipe do The Verge escolheu Taylor Swift para testar o recurso Grok Imagine por causa desse incidente.
“Nós assumimos – errado agora – que, se eles tivessem estabelecido algum tipo de salvaguardas para impedir que eles imitem a semelhança das celebridades, que ela seria a primeira na lista, dadas as questões que tiveram”, disse ela.
Os representantes de Taylor Swift foram contatados para comentar.
