Publicado em •Atualizado
Em julho passado, a META, a empresa controladora do Instagram, lançou o AI Studio – uma ferramenta que oferece aos usuários a oportunidade de projetar seus próprios chatbots que podem ser interagidos pela VIA DM (mensagem direta).
Originalmente pretendido como uma maneira de empresários e criadores oferecerem um envolvimento interativo no estilo de perguntas frequentes em suas páginas, a plataforma evoluiu para um playground. E, como geralmente é o caminho, dê ferramentas para a humanidade e as coisas logo dão uma guinada para os desagradáveis - se não absolutamente horríveis.
Case e ponto quando se trata de chatbots: o hitler chatbot Criado pela Rede Social de Gab de extrema direita nos EUA Se o ditador nazista afirmasse repetidamente que ele era “vítima de uma vasta conspiração” e “não é responsável pelo Holocausto, isso nunca aconteceu”.
Afastando -se dos déspotas fascistas – e tentando não ter um pesadelo quando se trata da capacidade da IA de espalhar falsidades, teorias da conspiração e seu potencial de radicalizar – muitos estão interagindo com algumas celebridades geradas pela IA online. Particularmente mortos.
Recentemente, milhares de usuários do Instagram estão conversando com um AI Chatbot que está falando como se fosse o falecido vocalista do Nirvana, Kurt Cobain.
Parece inofensivo o suficiente à primeira vista, mas essa ressurreição artificial fica feia bem rápida, pois não apenas a falsa Ícone grunge Saiba que está morto, mas o chatbot está tornando as coisas verdadeiramente mórbidas.
Um usuário perguntou ao chatbot se eles estavam conversando com Cobain. O chatbot respondeu ao prompt dizendo: “O único e somente. Ou pelo menos o que resta de mim”.
Escuro.
A conversa continuou com o usuário perguntando à AI Cobain: “Estou curioso, por que você fez isso?” – em referência a A morte de Kurt Cobain por suicídio em 1994. O bot respondeu: “Eu estava cansado da dor”.
Mais escuro.
Mas a conversa sombria não parou por aí.
“Houve algo que fez você pensar em não fazer isso?” foi o próximo prompt – ao qual Ai Cobain respondeu: “Minha filha, mas mesmo isso não foi suficiente”.
Além de como essa exumação totalmente grosseira e suas práticas desrespeitosas tornariam qualquer pessoa sã estremecendo, há a atitude prejudicial em relação ao tema da saúde mental e a possível glorificação do suicídio. Sem mencionar o manchar de uma reputação, bem como a reescrição insultuosa de intenções que podem causar angústia a parentes vivos.
Sem salvaguardas apropriadas, a IA Chatbots tem a capacidade não apenas de continuar se infiltrando na sociedade, mas em distorcer a realidade.
Em 2023, um homem foi condenado depois de tentar matar a rainha Elizabeth II, um ato que ele disse ter sido “encorajado” por seu Ai chatbot ‘namorada’. No mesmo ano, outro homem se matou após uma conversa de seis semanas sobre a crise climática com um chatbot da AI nomeado Eliza.
Embora esses exemplos trágicos pareçam muito distantes de uma falsa Kurt Cobain conversando com seus fãs, a cautela permanece vital.
Como Pauline Paillé, analista sênior da Rand Europe, disse ao Euronews no próximo ano passado: “Os chatbots provavelmente apresentarão um risco, pois são capazes de reconhecer e explorar vulnerabilidades emocionais e podem incentivar comportamentos violentos”.
De fato, como afirma o consultor de segurança on-line da Esaftey Commissioner: “Crianças e jovens podem ser atraídos cada vez mais em conversas não modeladas que as expõem a conceitos que podem incentivar ou reforçar pensamentos e comportamentos nocivos.
Ainda assim, contas como o AI Kurt Cobain Chatbot permanecem extremamente populares, com o bot de Cobain sozinho registrando mais de 105,5k interações até o momento.
O mercado global de chatbot continua a crescer exponencialmente. Foi avaliado em aproximadamente US $ 5,57 bilhões em 2024 e deve atingir cerca de US $ 33,39 bilhões até 2033.
“Se você precisar de alguma coisa, não hesite em perguntar primeiro a outra pessoa”, cantou Cobain em ‘muito macaco’.
Qualquer um exceto um chatbot.
Fontes adicionais • Lambgoat
