Pesquisadores e outros levantam o alarme sobre a IA Deadbot Advertising: NPR

Avatares de AI de pessoas falecidas – ou “Deadbots” – estão aparecendo em contextos novos e inesperados, incluindo aqueles em que têm o poder de convencer.

Eles estão dando entrevistas que defendem leis mais difíceis de armas, como quando a família de Joaquin Oliver, vítima do tiroteio na escola de Parkland 2018 na Flórida, criou um avatar AI que usa o gorro e teve isso fale com O jornalista Jim Acosta em julho. “Esta é apenas mais uma ferramenta de defesa para criar essa urgência de fazer as coisas mudarem”, disse Manuel Oliver, pai de Joaquin, à NPR.

E em maio, um avatar de AI barbudo de Chris Pelkey, a vítima falecida de um incidente de raiva na estrada no Arizona, deu um impacto em vídeo declaração na sentença do homem que atirou fatalmente em Pelkey. A família de Pelkey ​​criou o Deadbot. “Sinto que isso foi genuíno”, disse o juiz Todd Lang depois de ouvir a declaração de impacto gerou a IA. Ele então entregou a frase máxima.

Poderes de persuasão

A indústria da vida após a morte digital, que gerencia os ativos digitais de uma pessoa após a morte, é esperado Para quadruplicar em tamanho, para quase US $ 80 bilhões na próxima década. Isso inclui a criação de Deadbots. Quanto mais imersivos esses bots se tornarem, mais empresas de tecnologia estão explorando seu potencial comercial – causando preocupação na comunidade de pesquisa e em outros lugares.

“Há uma retórica poderosa com um Deadbot porque está explorando todo esse desejo e vulnerabilidade emocionais”, disse nova iorquino Cartoonista Amy Kurzweil. O trabalho de Kurzweil explora frequentemente tópicos tecnológicos, incluindo seu livro 2023 Artificial: uma história de amor. As memórias gráficas relata como ela e seu pai, inventor e futurista Ray Kurzweil, criaram um chatbot baseado em texto de seu avô morto em 2018 usando materiais escritos de seus arquivos. “Eu podia sentir que tinha alguma comunhão com a presença dele”, disse ela.

Os avatares da AI de Joaquin Oliver (à esquerda) e Chris Pelkey ​​(à direita).

The Jim Acosta Show/Stacey Wales/Screenshot por NPR

ocultar a legenda

Alternar a legenda

The Jim Acosta Show/Stacey Wales/Screenshot por NPR

Kurzweil disse que os Deadbots de voz e vídeo mais imersivos podem ter poderes ainda mais fortes de persuasão. “É como um filme de VR ou um filme 3D em vez de algo granulado e preto e branco”, disse Kurzweil. “E isso pode ser mais afetante.”

Danos potenciais

Os pesquisadores agora estão alertando que o uso comercial é a próxima fronteira para Deadbots. “É claro que será monetizado”, disse o pesquisador da AI da Universidade de Lindenwood, James Hutson. Hutson é co-autor de vários estudos sobre Deadbots, incluindo um Explorando a ética de usar a IA para reanimar os mortos.

O trabalho de Hutson, juntamente com outros estudos recentes, como um Da Universidade de Cambridge, que explora a probabilidade de empresas que usam Deadbots para anunciar produtos para usuários, apontam para os possíveis danos de tais usos. “O problema é se é percebido como explorador, certo?” Hutson disse.

Mas Hutson diz que o público americano, no entanto, foi preparado para aceitar a possibilidade de anúncios serem alimentados a eles através de Deadbots. “Algo que pode parecer muito grosseiro e horrível hoje não parecerá tão exagerado ou inapropriado quando se normalizou e bastante comum”, disse ele.

Hutson disse que, por um lado, o falecido promove produtos na tela há décadas. Um Fred Astaire, manipulado digital comerciais no dia dos anos 90.

Por outro pago assinaturas para streamers como Hulu e Netflix. Então, por que não os Deadbots suportados por anúncios também? (Empresas Deadbot como a seguir e o projeto de dezembro atualmente monetizam seus produtos através assinaturas pagas ou cobrando um taxa inicial.)

Questões legais, éticas e morais

Antes que a publicidade do Deadbot possa decolar, há dobras legais para se exercitar. “Nos Estados Unidos, estamos lutando com os direitos de privacidade dos vivos, muito menos os direitos de privacidade do falecido”, disse Jeffrey Rosenthal, advogado da Filadélfia, especializado em tecnologia e privacidade com o escritório de advocacia Blank Rome Llp.

Não há leis federais abrangentes que regem o uso da IA ​​nos Estados Unidos. (A União Europeia tem legislação Isso procura colocar o Guardrails em torno do uso da IA, mas não especifica os deadbots.)

O que os EUA têm é uma colcha de retalhos de leis estaduais Isso reconhece o direito de uma pessoa de proteger o uso comercial de seu nome, semelhança, voz e outras características de identificação, mesmo depois de mortas. Mas Rosenthal disse que o quadro legal atual está, em geral, mal equipado para lidar com os danos que podem surgir de, digamos, uma avó de Deadbot divulgando anúncios em membros da família.

“Quem é responsável?” Rosenthal disse. “A empresa de software que desenvolveu a avó Deadbot? A empresa de publicidade que inseriu seu anúncio? A empresa que possui o IP? Existem muitas maneiras diferentes de que isso poderia resultar em um caminho pouco claro sobre o que a lei diz que deve acontecer e, em seguida, o que a sociedade considera que deve acontecer de uma perspectiva ética e moral”.

Os fabricantes de Deadbot e as empresas de publicidade digital NPR falaram para esta história dizem que são repelidas pelas ramificações éticas e morais do uso de Deadbots para vender produtos.

“Eticamente, acho que usar pessoas mortas não é sólido”, disse Camille Chiang, chefe de conteúdo da empresa de marketing da IA ​​Nex, que atualmente está desenvolvendo AI Avatars para um time profissional de basquete usar em campanhas de publicidade – apenas eles estão trabalhando com vivendo atletas; não mortos.

“Por que diabos eu gostaria que minha avó dissesse algo que não é autêntico?” disse Alex Quinn, o CEO da Interações autênticas incorporadasa empresa controladora do Deadbot Criador StoryFile. “Isso realmente me desligaria como consumidor. E eu não acho que isso nos deixa com um alto nível de reputação”.

Mas Quinn disse que está “absolutamente interessado” em ver se existem outras maneiras de tornar o Deadbots amigável. Um cenário pode envolver a inserção de anúncios intersticiais nas conversas das pessoas com os Deadbots – assim como os intervalos comerciais tradicionais aparecem durante os programas de TV.

Outro poderia envolver os curtidos e desgostos do Deadbot Greating dos vivos que poderiam ser úteis para os anunciantes. “Podemos instruir esses avatares a realmente investigar informações”, disse Quinn. “Você sabe, quem é seu atleta favorito? Que camisas pode ser interessante para você?”

Quinn disse que as empresas vão tentar ganhar o máximo de dinheiro com os avatares da IA ​​dos mortos e dos vivos possível, e ele reconhece que pode haver alguns maus atores. “As empresas já estão testando as coisas internamente para esses casos de uso”, disse Quinn, com referência a casos de uso como endossos com celebridades vivas criadas com IA generativa com a qual as pessoas podem interativas. “Nós ainda não vimos muitas implementações ainda”.