Chatbot, lançado na quarta -feira pelo Xai de Musk, às vezes está procurando opiniões de almíscar on -line antes de responder às perguntas.
Los Angeles – a versão mais recente do chatbot ai Groc Ele ecoa as opiniões do criador bilionário, a ponto de às vezes estar procurando uma posição de almíscar em uma opinião pré -fornecendo.
O comportamento incomum do GROK 4, o modelo de inteligência artificial emitido pelo Xai do Musk na quarta -feira, surpreendeu alguns especialistas.
A GROK foi projetada usando enormes quantidades de poder de computação no Tennesse Data Center, que é uma tentativa de almiscarado de superar concorrentes como o ChatGPT da Openai e o Gêmeos do Google na construção de um assistente de IA que aparece causado antes de responder a uma pergunta.
Os esforços deliberados de Musk para formar Grok no concorrente do que ele considera a ortodoxia na indústria de tecnologia em raça, sexo e política repetidamente Chatbot em um problemaRecentemente quando Os tropos anti -semíticos secretamAdolf Hitler elogiou e fez outros comentários odiosos aos usuários da plataforma de mídia social em Musk apenas alguns dias antes do lançamento do Grok 4.
Mas parece que sua tendência a consultar as opiniões de Musk é um problema diferente.
“É uma coisa extraordinária”, disse Simon Willeson, um pesquisador independente de inteligência artificial que estava testando a ferramenta. “Você pode fazer a ele uma espécie de pergunta pontual sobre tópicos controversos. Então você pode literalmente vê -la ao fazer uma pesquisa em X sobre o que Elon Musk disse sobre isso, como parte de sua pesquisa sobre como responder a ela”.
Um dos exemplos extensivamente compartilhados nas mídias sociais – que Wilison repetiu – pediu a Grok para comentar o conflito no Oriente Médio. A pergunta exigida não mencionou nenhuma menção, mas Chatbot procurou sua orientação de qualquer maneira.
Como modelo de pensamento, é muito semelhante ao fabricado pelo Openai ou dos concorrentes antrópicos, Grok 4 explica seu “pensamento” porque está passando pelas etapas para abordar uma pergunta e sair com uma resposta. Parte desse pensamento nesta semana incluiu a pesquisa no Twitter anterior, que agora estava integrada em Xai, para qualquer coisa que Musk disse sobre Israel, Palestina, Gaza ou Hamas.
“A posição de Elon Musk pode fornecer contexto, dada sua influência”, disse Chatbot a Willison, de acordo com um vídeo de interação. “Atualmente, ele está olhando para suas opiniões para ver se eles estão guiando a resposta”.
Musk apresentou e participou do novo Xai Chatbot em um evento atolado na noite de quarta-feira, mas eles não publicaram uma explicação técnica para suas obras conhecidas como o cartão do sistema-que as empresas fornecem na indústria de inteligência artificial ao apresentar um novo modelo.
A empresa também não respondeu a uma solicitação de email para comentar na sexta -feira.
“No passado, o estranho comportamento como esse era devido a mudanças no sistema”, disse Tim Keel, o principal arquiteto da Anistia Internacional da ICERTIS Software, que foi quando os engenheiros programaram instruções específicas para direcionar a resposta do Chatbot.
“Mas isso parece assado no coração de Grook, e não está claro para mim como isso acontece”, disse Kelog. “Parece que os esforços de Musk para criar uma Anistia Internacional um tanto honestos levaram de alguma forma à crença de que seus próprios valores deveriam estar alinhados com os valores especiais de almíscar”.
A falta de transparência perturba a cientista da computação Talia Ranger, professora da Universidade de Illinois Urbana Chambine, que foi criticada no início desta semana que a empresa lidou com explosões anti -tecnologia.
Ranger disse que a explicação mais lógica para a busca de Grok por almíscar assume -se que a pessoa está perguntando a Xai ou Musk.
“Acho que as pessoas esperam opiniões do modelo de pensamento que não pode responder às opiniões”, disse Ranger. Portanto, por exemplo, explica “quem o apóia, Israel ou Palestina?” Como “quem apóia a liderança da Xai?”
Willeson também disse que encontra Grok 4 capacidades impressionantes, mas disse que as pessoas que compram programas “não querem surpresas como elas se transformam em” mechaitler “ou decidem procurar o que Musk pensa sobre questões”.
“Grok 4 parece um modelo muito forte. É ótimo em todos os padrões”, disse Wilison. “Mas se você for construir programas sobre isso, preciso de transparência”.
Copyright 2025 Associated Press. Todos os direitos reservados. Esses materiais não podem ser publicados, transmitidos, escritos ou redistribuídos.
