Meta está finalmente reprimindo que usam IA para gerar imagens nuas e explícitas não consensuais de celebridades, influenciadores e outros. A empresa está processando um fabricante de aplicativos que freqüentemente anuncia esses aplicativos no Facebook e Instagram e tomando novas etapas para evitar anúncios para serviços semelhantes.
A repressão ocorre meses depois que vários pesquisadores e jornalistas aumentaram o alarme sobre esses aplicativos. Um recente de CBS News Identificou pelo menos “centenas” de anúncios nos aplicativos de promoção da plataforma da Meta que permitem aos usuários “remover roupas” de imagens de celebridades e outros. Um aplicativo em particular, chamado Crush AI, aparentemente tem sido um anunciante prolífico no Facebook e Instagram. O pesquisador Alexios Mantzarlis, diretor da Iniciativa de Segurança, Confiança e Segurança da Cornell Tech, relatou em janeiro que a AI Crush havia executado no Facebook e Instagram desde o outono passado.
Agora, a Meta diz que entrou com uma ação contra a Joy Timeline HK Limited, a empresa de Hong Kong por trás da AI Crush e outros aplicativos NUDify. “Isso segue várias tentativas da Joy Timeline HK limitada para contornar o processo de revisão de anúncios da Meta e continuar colocando esses anúncios, depois de terem sido removidos repetidamente para quebrar nossas regras”, escreveu a empresa em uma postagem no blog. Joy Timeline HK Limited não respondeu imediatamente a um pedido de comentário.
A Meta também diz que está dando novas etapas para impedir que aplicativos como esses anunciem em sua plataforma. “Desenvolvemos novas tecnologias projetadas especificamente para identificar esses tipos de anúncios – mesmo quando os próprios anúncios não incluem nudez – e usar a tecnologia correspondente para nos ajudar a encontrar e remover anúncios de imóveis mais rapidamente”, escreveu Meta. “Trabalhamos com especialistas externos e nossas próprias equipes especializadas para expandir a lista de termos, frases e emojis relacionados à segurança de que nossos sistemas são treinados para detectar nesses anúncios”. A rede social diz que também planeja trabalhar com outras plataformas de tecnologia, incluindo os proprietários da App Store, para compartilhar detalhes relevantes sobre entidades que abusam de sua plataforma.
Os aplicativos Nudify não são as únicas entidades que exploraram a plataforma de publicidade da Meta para executar anúncios com o Celebrity Deepfakes. A Meta também tem lutado para conter anunciantes obscuros que usam o vídeo de figuras públicas manipuladas da AI . O Conselho de Supervisão Independente da Companhia, que pesa questões de moderação de conteúdo que afetam o Facebook e o Instagram, criticou recentemente a Meta Suas regras que proíbem esses anúncios.
