O quadro de supervisão chama a moderação desigual da Meta de ‘incoerente e injustificável’
À medida que as plataformas da Meta se enchem com mais conteúdo gerado pela IA, a empresa ainda tem muito trabalho a fazer quando se trata de fazer cumprir suas políticas em torno da mídia manipulada. O Conselho de Supervisão está mais uma vez criticando a empresa de mídia social sobre o tratamento de tais posts, escrevendo em sua última decisão de que sua incapacidade de fazer cumprir suas regras é “incoerente e injustificável”.
Se isso soa familiar, é porque isso é Desde o ano passado, o Conselho de Supervisão usou a palavra “incoerente” para descrever a abordagem da Meta à mídia manipulada. O Conselho havia existido a Meta que atualizasse suas regras depois que um vídeo de Joe Biden editado, enganado, se tornou viral no Facebook. Em resposta, Meta disse isso Seu uso de rótulos para identificar conteúdo gerado pela IA e que aplicaria rótulos mais proeminentes em situações de “alto risco”. Esses rótulos, como o abaixo, observam quando uma postagem foi criada ou editada usando a IA.
Essa abordagem ainda está ficando aquém, disse o conselho. “O conselho está preocupado com o fato de, apesar da crescente prevalência de conteúdo manipulado entre os formatos, a aplicação da Meta de sua política de mídia manipulada é inconsistente”, afirmou sua última decisão. “A falha da Meta em aplicar automaticamente um rótulo a todas as instâncias da mesma mídia manipulada é incoerente e injustificável”.
A declaração veio em uma decisão relacionada a um post apresentar áudio de dois políticos no Curdistão iraquiano. A suposta “conversa gravada” incluiu uma discussão sobre a manipulação de uma próxima eleição e outros “planos sinistros” para a região. O post foi relatado como meta para desinformação, mas a empresa fechou o caso “sem revisão humana”, afirmou o conselho. A Meta posteriormente rotulou algumas instâncias do clipe de áudio, mas não é o relatado originalmente.
O caso, de acordo com o conselho, não é um outlier. A aparentemente, a Meta disse ao conselho que não pode identificar e aplicar automaticamente rótulos em postagens de áudio e vídeo, apenas para “imagens estáticas”. Isso significa que várias instâncias do mesmo videoclipe de áudio ou vídeo podem não receber o mesmo tratamento, o que a placa notas pode causar mais confusão. O Conselho de Supervisão também criticou a Meta por frequentemente confiar em terceiros para identificar vídeos e áudio manipulados da AI, como aconteceu neste caso.
“Dado que a Meta é uma das principais empresas de tecnologia e IA do mundo, com seus recursos e o amplo uso das plataformas da Meta, o conselho reitera que a Meta deve priorizar o investimento em tecnologia para identificar e rotular vídeos e áudio manipulados em escala”, escreveu o conselho. “Não está claro para o conselho por que uma empresa dessa experiência técnica e terceiriza de recursos que identifica a provável mídia manipulada em situações de alto risco em meios de comunicação ou parceiros confiáveis”.
Em suas recomendações à Meta, o conselho disse que a empresa deve adotar um “processo claro” para rotular consistentemente “conteúdo idêntico ou semelhante” em situações em que adiciona um rótulo de “alto risco” a uma postagem. A diretoria também recomendou que esses rótulos aparecessem em um idioma que corresponda ao restante de suas configurações no Facebook, Instagram e threads.
Meta não respondeu a um pedido de comentário. A empresa tem 60 dias para responder às recomendações do conselho.
