Para dezenas de milhões de pessoas em TiktokA percepção de que a IA poderia estar melhorando não era um comunicado de imprensa ou um artigo – foi um vídeo de uma dúzia de coelhos pulando em um trampolim.
O clipePostado pela primeira vez por uma conta desconhecida de Tiktok @RachelThecatLovers, mostrou um rebanho de coelhos descendo em um trampolim suburbano tarde da noite, legendou “Acabei de verificar a câmera de segurança em casa e … acho que temos artistas de convidados de volta!” Os vídeos em estilo de vigilância já compõem uma grande faixa de conteúdo no aplicativo, mas o que conseguiu 230 milhões de pessoas que viram que o vídeo era convincente … quase. Tantas pessoas ficaram chocadas que este vídeo de IA os enganou – por um momento – que desencadeou um aceno de alarme através do aplicativo.
A Internet percorreu um longo caminho desde que o teste mais reconhecido para a IA foi produzir um vídeo convincente de Will Smith comendo uma tigela de espaguete – Algo que o primeiro dos modelos simplesmente não poderia fazer. Agora, com fotos e vídeos gerados ou modificados de IA inundando as mídias sociais, saber como identificar imagens alteradas ou manipuladas pode ser a chave para o consumo crítico de mídia.
Rolling Stone Falei com vários especialistas em tecnologia e IA sobre as melhores maneiras de identificar o conteúdo da IA - pelo menos por enquanto.
Pense por literalmente mais de um segundo
Imagens manipuladas ou completamente geradas pela IA podem variar de desinformação política a edições de vídeo quase indetectáveis. Mas, de acordo com o professor de ciência da computação da Universidade de Princeton, Zhuang Liu, uma das maneiras mais fáceis de detectar imagens de IA é apenas pensando se o que você está vendo é realmente possível.
“Se não é plausível no mundo real, então é obviamente gerado por IA”, ele diz Rolling Stone. “Por exemplo, um cavalo na lua ou uma cadeira feita de abacate. Portanto, esses são obviamente gerados pela IA. Esse é o caso mais fácil.”
O próximo passo é verificar a fonte em que você encontrou a imagem. Isso não funciona necessariamente para conteúdo viral, especialmente porque eles costumam vir de contas anteriormente desconhecidas, mas ver um vídeo em uma página de meme pode ser uma pista, não é real. Verificar suas fontes, incluindo a pesquisa do vídeo em sites legítimos ou usar a pesquisa de imagem reversa, pode ajudar se você estiver tentando verificar uma foto, especialmente se for de natureza política.
Coloque seu chapéu de arte crítica
Identificar com precisão a inclinação da IA pode ser fácil. Mas quando uma imagem ou vídeo parece plausível – é quando você realmente precisa usar outras pistas para tentar identificar a IA. VS Subrahmanian, diretor do Northwestern University Security and Ai Lab, disse Rolling Stone que determinar se uma imagem é gerada por IA começa com a quebra de uma foto em componentes. Embora o resultado final possa parecer crível, muitas vezes há pistas de que os objetos em uma foto não estão cumprindo as regras da física. Coisas como sombras geralmente podem ser uma dica de que uma foto foi feita pela IA, ou vídeos em que a fonte de luz parece impossível de obter. Outra grande dica é olhar claramente para as transições na foto, como onde o corpo das pessoas terminam e as árvores ou imagens de fundo começam.
“Estamos procurando coisas difíceis para uma falsa profunda para acertar”, diz ele. “Digamos que estou olhando para a orelha de uma pessoa e há um fundo confuso por trás.
O professor de ciência da computação da Universidade de Nova York, Sing, Xie, acrescenta que esse tipo de pensamento crítico também pode ser feito aos vídeos. “Procure detalhes realmente estranhos. Verifique a escrita não natural”, diz ele. “Se houver um espelho (ou) água, às vezes há uma reflexão distorcida, uma sombra incompatível. Faça uma pausa em diferentes quadros e procure falhas, rostos distorcidos e origens.”
Pense em manipulação, não apenas na geração da IA
Embora o conteúdo totalmente gerado pela IA possa ser um problema, muitas pessoas não consideram que algumas imagens podem ser manipuladas em vez de pano inteiro criadas, o que pode fazer com que as falsifiquem ainda mais reais. Um dos melhores exemplos disso é em mensagens políticas e desinformação, que geralmente pode usar videoclipes reais, mas substituir o áudio-ou manter o áudio verificado enquanto altera um pouco o que as pessoas estão fazendo na tela. Esses micro-ajustes podem ser mais difíceis de identificar, e é por isso que os especialistas dizem que você deve procurar vídeos de vários ângulos, mas o mais importante é ser cético.
“Mantenha uma mentalidade de pensamento crítico”, diz Liu. “Verifique se a fonte é confiável e pense: ‘Qual poderia ser a intenção da entidade que está compartilhando isso? É ganhar seguidores nas mídias sociais ou promover alguns produtos?’ Fique claro sobre a intenção. ”
“Estamos ativamente em uma era pós-verdade. E precisamos mudar de maneira as mentalidades que ver é acreditar”, acrescenta Xie. “Para o usuário médio da Internet, o padrão deve ser ceticismo.”
Entenda o maior problema
À medida que as empresas de tecnologia continuam investindo bilhões em avanços de IA, é abundantemente claro que pode haver facilmente um futuro em que se torne incrivelmente difícil identificar imagens geradas por IA de fotografias e vídeos reais. Em 27 de agosto, o Google lançou uma grande atualização para o seu editor de fotos da Gemini AI, que o Google anunciou como tendo uma capacidade de renderização sofisticada.
“Identificar (IA) está ficando cada vez mais difícil”, diz Xie. “Se você me perguntasse ontem, eu lhe daria uma resposta diferente. Mas agora, o modelo do Google avançou para um novo nível. Muitas dessas ferramentas de inspeção viral podem não ser mais válidas.”
É aqui que a percepção do público termina e a responsabilidade corporativa começa. Todos os especialistas que falaram com Rolling Stone Digamos que as empresas por trás desses modelos de sucesso massivamente têm a responsabilidade de desenvolver técnicas de marca d’água que declarem explicitamente quando as imagens foram feitas com seus modelos.
“Esse tipo de autenticação deve ser feito com esse tipo de edição de imagens, o lado geração-provedor também”, diz Xie. “Muitos provedores de geração de imagens não têm esse serviço. Mas acho que, no futuro, as pessoas se importam mais com a responsabilidade e a segurança e (as empresas) adicionarão mais salvaguardas. Estou bastante otimista com isso.”
Liu observa que, embora o consumidor médio tenha se preocupado em identificar imagens de IA, muitas empresas desenvolveram modelos de IA que podem identificar com precisão quando uma imagem foi gerada ou manipulada – mas muitas não estão disponíveis ao público.
A Subrahmanian concorda que as empresas de tecnologia têm a responsabilidade de identificar e rotular suas criações de IA. Mas ele observa que, mesmo com mudanças em geral, isso não se aplicaria a pessoas que usam seus próprios modelos desenvolvidos ou mais recentes. “Acho que o número de empresas de tecnologia que estão lançando algoritmos para criar falsificações profundas está realmente começando a colocar marcas d’água”, Subrahmanian. “Mas os atores (malignos) podem pegar esse tipo de coisa, e isso é muito mais difícil de regular.”
Não há uma boa resposta sobre como manter as comportas da Internet se mantendo fortes contra as ondas das imagens de IA. Haverá outra praga de coelhos em trampolins que enviam aplicativos em pânico, ou um vídeo de uma figura política que convence as pessoas à margem de algo completamente implausível. Mas, embora esses desenvolvimentos continuem, a coisa mais forte que a pessoa comum precisa combater contra a IA é seu próprio pensamento crítico.
“No final das contas, muitas das coisas que você está vendo foram criadas por estranhos, e você precisa tratá -lo com o mesmo ceticismo de que você trataria um pedido expedido de dinheiro de alguma pessoa desconhecida”, diz Subrahmanian. “O senso comum é um recurso muito subestimado.”
