Grok continuou falando sobre ‘Genocídio Branco’ devido a uma ‘modificação não autorizada’
Nas primeiras horas de 14 de maio, o chatbot grok de Xai dei repetidamente a respostas dos usuários X Isso se referiu a reivindicações sobre um “genocídio branco” na África do Sul, mesmo que suas investigações não tivessem nada a fazer sobre o assunto. Agora, em um declaração Postado na rede social, Elon MuskA empresa de IA explicou que “uma modificação não autorizada” para o prompt de Grok em X fez com que “forneça uma resposta específica sobre um tópico político”. Não disse o que aconteceu com o pessoal envolvido em lançar a atualização desonesta. Mas acrescentou que a modificação violou suas “políticas internas e valores centrais” e que conduziu uma investigação completa sobre o incidente.
Os vários usuários do site postaram várias instâncias em que Grok incluiu referências às reivindicações controversas que branco Os agricultores sul -africanos são enfrentando discriminação racial e crises de terra em seu país. Suas perguntas? Bem, em um tweet, alguém perguntou quantas vezes a HBO mudou o nome do serviço de streaming. Em outro, o usuário pediu a história do salário de um jogador de beisebol. Em mais um, alguém pediu mais informações sobre uma partida da WWE. CNBC foi capaz de replicar as respostas do chatbot com referências de genocídio branco. Quando o site de notícias perguntou se foi programado especificamente para promover o “genocídio branco”, Grok disse que não era e que seu “objetivo é fornecer respostas factuais, úteis e seguras com base na razão e evidência”.
Antes de Xai emitir uma resposta, Openai Chefe Sam Altman postou uma resposta sarcástica Em X. “Tenho certeza de que a Xai fornecerá uma explicação completa e transparente em breve”, escreveu ele, e depois imitou as respostas de Grok seguindo a conversa sobre o genocídio branco. A Xai disse que a partir de agora estará publicando suas solicitações de sistema no GitHub para que o público possa dar feedback sobre todas as alterações. A empresa também disse que colocará cheques e medidas adicionais para garantir que os funcionários da XAI não possam modificar o prompt de Grok sem uma revisão. Quem o editou recentemente foi capaz de contornar seu atual processo de revisão neste caso. Além disso, a empresa disse que está reunindo uma equipe que pode monitorar incidentes relacionados às respostas de Grok não capturadas pelos sistemas automatizados 24/7.
Como TechCrunch Observou, esta não é a primeira vez que Xai culpou um comportamento controverso a uma mudança não autorizada. Em fevereiro, o chatbot censurou brevemente fontes que falaram sobre como Musk e Presidente Donald Trump estão espalhando desinformação. O co-fundador da Xai, Igor Babuschkin, disse na época que um funcionário desonesto tinha empurrado Uma modificação não aprovada para o prompt de Grok.
Se você comprar algo através de um link neste artigo, podemos ganhar comissão.
