A Meta está treinando seus chatbots de IA para enviar mensagens não solicitadas
Todo mundo foi atingido por um passe de passagem cortante “?” texto depois de esperar um pouco demais para responder. E em breve você poderá obter um tratamento semelhante (embora provavelmente mais otimista) do AI Chatbots com os quais se envolveu anteriormente em meta plataformas como o Instagram ou o WhatApp. Um novo relatório de Alega que a empresa de propriedade da Mark Zuckerberg está testando um recurso proativo em chatbots personalizáveis criados usando seu software de estúdio de IA sem código, que lhes permitirá enviar mensagens de acompanhamento não solicitadas com base em conversas anteriores.
Conhecida internamente à empresa de rotulagem de dados Alignerr como “Project Omni”, o projeto de treinamento “fornecerá valor aos usuários e, finalmente, ajudará a melhorar o revolução e a retenção de usuários”, de acordo com as diretrizes nos documentos BI alega ter visto. Meta anuncia Como uma plataforma em que “qualquer um pode criar um personagem de IA baseado em seus interesses” e incentiva os criadores a ver os bots como uma extensão de IA de si. Você pode personalizar a aparência de um chatbot, escolher o conteúdo que ele é treinado e decidir em qual aplicativo de meta de propriedade você deseja que ele apareça, tudo sem “nenhum conhecimento técnico”.
De acordo com o BI Relatório, as diretrizes do Omni do projeto da Alignerr usam o exemplo de um bot focado no filme que chama de “o maestro da magia do filme” que pode enviar uma mensagem de usuário como: “Espero que você esteja tendo um dia harmonioso! Eu queria verificar e ver se você soube!
Como BI Notas, há um incentivo comercial para a Meta para manter as pessoas envolvidas com seus chatbots. O envolvimento prolongado é vital para aumentar a receita e A Meta espera arrecadar US $ 2 bilhões a US $ 3 bilhões apenas de seus produtos generativos de IA. Até 2035, a empresa estima que esse número possa chegar a US $ 1,4 trilhão. Esses tipos de previsões só serão possíveis se suas ferramentas de IA estiverem sendo usadas de forma consistente; portanto, um lembrete amigável de um chatbot de vez em quando parecer uma jogada óbvia.
As mensagens proativas atualmente ainda são apenas um recurso de teste. E embora definitivamente pareça lembrar conversas e iniciar novos sem convite está se aproximando de uma área cinzenta de consentimento do usuário, disse um meta porta -voz BI Que a IA enviará apenas uma mensagem de acompanhamento se um usuário iniciar a conversa primeiro e não enviará outra mensagem se a primeira for ignorada. As respostas também devem ser consistentes com a personalidade da IA e a natureza da conversa anterior, mantendo um tom positivo enquanto fica longe de tópicos controversos ou sensíveis, a menos que o usuário os tenha mencionado.
No mês passado, Meta Seus usuários não compartilham detalhes íntimos no feed público da Meta AI depois de surgir que um grande número de usuários parecia estar fazendo isso involuntariamente.
