Quando a mãe e a criadora Cathy Pedrayes estava rolando Tiktok no Natal, ela começou a notar um excedente de contas usando Ai Avatares para promover produtos de imitação. Como era a temporada de compras de férias, ela pensou pouco – até que tropeçou em um vídeo que parecia partes iguais ridículas e perigosas. Era um clipe de uma mulher alegando ter passado 13 anos como um “médico de bunda” revelando conselhos secretos que aprendeu durante sua residência. Sua solução mágica: um suplemento da Amazon para combater a deficiência de ferro e um saúde Boletim que prometeu dicas para perda de peso, um intestino limpo e melhor saúde. Pedrayes sabia que era falso. Mas ela também viu que tinha 5,2 milhões de visualizações. E uma pesquisa rápida revelou outra preocupação: havia centenas mais assim.
Essa descoberta é um dos mais recentes problemas de mídia social que as plataformas estão lutando desde o desenvolvimento e a democratização de geradores de inteligência artificial: AI Doctor ADS. A IA é mais fácil do que nunca de produzir e, como resultado, anúncios com AI falantes que afirmam ser especialistas médicos estão se infiltrando na mídia social robusta das mídias sociais bem-estar ecossistema. Isso não está isolado em um aplicativo. No Facebook, Instagram, X e Tiktok, um tipo específico de vídeo de saúde de IA – que usa um avatar de IA para convencer as pessoas de especialização médica – tornou -se a maneira de defactos de contas para convencer as pessoas de que elas e seus produtos não comprovados são legítimos. Ao contrário das imagens de IA de apenas alguns anos atrás, muitos desses vídeos apresentam uma combinação de filmagens reais e IA, o que resulta em avatares que parecem extremamente realistas à primeira vista – e são editados exatamente os mesmos do conteúdo direto do câmera que é popular em aplicativos de vídeo. Para pergaminhos e criadores, a segurança da Internet sempre foi uma das principais preocupações. Mas à medida que a tecnologia se desenvolve e se torna mais difícil de discernir, vários criadores dizem Rolling Stone Cabe a plataformas tentar interromper esse tipo de spread de IA – antes que seja impossível de detectar.
Como químico cosmético, Javon Ford compartilha sua experiência com quase meio milhão de seguidores no Tiktok, desmistificando as reivindicações de saúde viral e cuidados com a pele. Ele postou sobre os médicos da IA depois de perceber que muitos dos vídeos promoveram modismos prejudiciais para cuidados com a pele, como usar sebo de carne para protetor solar. Com a ajuda de pessoas em seus comentários, a Ford vinculou alguns vídeos a um aplicativo chamado Captions.ai, que oferece aos criadores a capacidade de transformar prompts escritos em vídeos de uma variedade de hosts de avatar. Esses avatares podem ser pesquisados por raça, gênero e cenário – dando aos usuários a oportunidade de escolher entre pessoas sentadas em seus carros, do lado de fora ou até ando pela rua. Eles também não parecem ser totalmente gerados pela IA, mas vídeos de pessoas reais que têm seus lábios alterados com a IA para combinar com o script insumido. Sob as legendas. (Representantes para legendas. Rolling Stonepedidos de comentário.)
Para a Ford, a preocupação é que esses anúncios estejam se multiplicando em uma atmosfera de mídia social que já está sofrendo de falta de interesse no contexto e no pensamento crítico. “Não estou realmente preocupado com a IA competindo em termos de conteúdo. Quero dizer, você já fez um bate -papo uma pergunta de matemática? Meu problema é que eles não estão divulgando a IA nesses anúncios ou estão apenas mentindo flagrantemente ”, diz Ford diz Rolling Stone. “O analfabetismo científico está no alto de todos os tempos. A alfabetização em geral é bastante baixa, infelizmente. E é importante que as pessoas ainda sejam capazes de pensar criticamente e se tornarem mais vigilantes e conscientes sobre como absorvemos essas informações. ”
Um relatório recente do Watchdog de jornalismo Media é importante descobriram que dezenas de contas no Tiktok usam “chavões de bem-estar”, influenciadores gerados pela IA e fabricou testemunhos pessoais para promover uma variedade de suplementos e produtos de saúde. Olivia Little, pesquisadora de investigação sênior da Media Matters e autora do relatório, diz Rolling Stone O fato de Tiktok “golpes de bem -estar” só ficou mais elaborado nos últimos quatro anos, algo que ela considera incrivelmente perigosa.
“É um problema de segurança do consumidor, bem como um problema de segurança do usuário, porque você tem uma rede de empresas ou contas representando qualquer pessoa de um profissional médico, como médicos, cirurgiões para, ainda mais maliciosamente, fornecendo testemunhos falsos ou fabricados”, diz Little. “É tudo baseado na falsa credibilidade que eles se deram, literalmente, enganam o consumidor”.
Os avanços na inteligência artificial se desenvolveram rapidamente nos últimos três anos, pois as empresas disponibilizaram modelos ao público em geral. Mas, à medida que a IA fica mais nítida e mais difícil de detectar, as empresas de mídia social não desenvolveram diretrizes para o conteúdo da IA na mesma velocidade. As diretrizes de conteúdo da Meta para o Facebook e o Instagram exigem uma gravadora de IA para qualquer foto ou vídeo que tenha sido “criado digitalmente, modificado ou alterado”. Mas uma pesquisa rápida de ambas as plataformas mostra dezenas de vídeos médicos gerados por IA, sem divulgações e ainda assumindo as opiniões.
A mesma divulgação também é necessária no Tiktok, que proíbe o conteúdo da IA que mostra “fontes autoritárias falsas” – como contas que fingem ser médicas para promover suplementos. Depois que a Media Matters publicou seu relatório, as contas que eles sinalizaram foram removidas. Um porta -voz de Tiktok confirmou para Rolling Stone que as contas foram proibidas por violar as diretrizes “Spam e comportamentos enganosos” e removeram perfis e vídeos adicionais sinalizados por esta revista. Mas uma hora depois que Tiktok removeu as contas, outras continuou para Aparecer. (Meta se recusou a comentar.)
Pedrayes, que compartilha vídeos sobre segurança e defesa do consumidor com seus 2 milhões de seguidores, dizem Rolling Stone Que grande parte de seu conteúdo gira em torno de como se manter seguro online, algo que ela acha que crescerá para abranger as reivindicações de AI lideradas como programas e vídeos, ficarão mais elaborados.
“Agora estou descobrindo que apenas o básico de ‘Oh, vi este vídeo online. Como sei se é verdade? Parece que as pessoas estão perdendo essas habilidades ”, diz ela. “Acho que, de um espaço de plataforma, é preocupante que os algoritmos promovam isso, e também que ele apareceria em outros aplicativos para que outros criadores imitassem esse conteúdo.
