O ChatGPT agora lembrará você de fazer pausas, seguindo problemas de saúde mental
Openi anunciou que o chatgpt agora vai Lembre os usuários para fazer pausas Se eles estão em uma conversa particularmente longa com a IA. O novo recurso faz parte das tentativas contínuas do OpenAI de fazer com que os usuários cultivem um relacionamento mais saudável com o assistente de IA frequentemente compatível e com desenvolvimento excessivo.
O anúncio da empresa sugere que os “lembretes suaves” aparecerão como pop-ups em bate-papos que os usuários terão que clicar ou tocar para continuar usando o ChatGPT. “Apenas checando”, diz a amostra pop-up da Openai. “Você está conversando há um tempo – é um bom momento para um intervalo?” O sistema é uma reminiscência dos lembretes, alguns jogos da Nintendo Wii e Switch mostrarão se você jogar por um longo período de tempo, embora haja um contexto infelizmente sombrio no recurso ChatGPT.
A qualidade “sim, e” da IA do OpenAI e sua capacidade de alucinar respostas factualmente incorretas ou perigosas levou os usuários a ter caminhos escuros, The New York Times relatado em junho – incluindo a ideação suicida. Alguns dos usuários cujos delírios Chatgpt já tinham um histórico de doença mental, mas o chatbot ainda fez um mau trabalho ao desligar consistentemente conversas prejudiciais. O OpenAI reconhece algumas dessas deficiências em sua postagem no blog e diz que o ChatGPT será atualizado no futuro para responder com mais cuidado a “decisões pessoais de alto risco”. Em vez de fornecer uma resposta direta, a empresa diz que o chatbot ajudará os usuários a pensar em problemas, oferecer perguntas e listar prós e contras.
O Openai obviamente quer que o Chatgpt se sinta útil, encorajador e agradável de usar, mas não é difícil empacotar essas qualidades em uma IA que é sicófantizante. A empresa foi forçada a Rollback uma atualização para chatgpt em abril Isso levou o chatbot a responder de maneiras que eram irritantes e excessivamente agradáveis. Fazendo pausas com Chatgpt – e tendo a IA Faça coisas sem sua participação ativa – tornará questões como isso menos visível. Ou, no mínimo, dará aos usuários tempo para verificar se as respostas que o ChatGPT está fornecendo estão corretas.
