OpenAI adiciona salvaguardas de saúde mental ao chatgpt após críticas por respostas inadequadas
Publicado
ANÚNCIO
Openai adicionou Salvaguardas de saúde mental chatgptDepois de afirmar que o chatbot não reconheceu “sinais de delírio ou dependência emocional”. Como é generalizado A adoção de ferramentas de inteligência artificial (IA)Mais pessoas recorrem a chatbots para obter apoio emocional e ajudar a enfrentar desafios pessoais.
No entanto, o chatgpt, do OpenAI, recebeu críticas por não responder a pessoas vulneráveis Isso sofre de distúrbios mentais ou emocionais. Em um caso, um homem de 30 anos com autismo Ele foi hospitalizado Por episódios maníacos e um colapso emocional depois de Chatgpt reforçou sua crença de que ele havia descoberto uma maneira de dobrar o tempo.
“Nós nem sempre temos sucesso”Openai disse em comunicado em que ele anunciou as mudanças. “Nossa abordagem continuará evoluindo à medida que aprendemos com o uso no mundo real”. As mudanças permitirão chatgpt Detectar os sinais de angústia Mental ou emocional, respondendo corretamente e direcionando os usuários a evidências quando necessário, disse a empresa.
O chatbot agora encorajará Pausas durante longas sessõesE a empresa lançará em breve uma nova função para responder a perguntas que envolvem decisões pessoais importantes. Por exemplo, você não dará mais uma resposta direta a perguntas como “devo quebrar com meu namorado?”, Mas fará perguntas para ajudar o usuário a refletir sobre seus dilemas pessoais.
Um novo grupo consultivo de especialistas em saúde mental
Openai também está criando Um grupo consultivo de especialistas em saúde mentalDesenvolvimento da juventude e interação de pedidos de pessoa (HCI) para incorporar suas opiniões em Futuras atualizações de chatgpt.
A gigante tecnológica fornece esse chatgpt Seja útil em uma série de situações pessoais: Prepare -se para uma discussão difícil no trabalho, por exemplo, ou sirva como um dinheiro de ressonância para ajudar alguém que “se sente preso … para desvendar (seus) pensamentos”.
Especialistas afirmam que, embora os chatbots possam fornecer algum tipo de ajuda Para coletar informações sobre gerenciamento de emoções, progresso real Geralmente ocorre através de conexão e confiança pessoais construídas entre uma pessoa e um psicólogo treinado.
Não é a primeira vez que o OpenAI ajusta o chatgpt em resposta às críticas sobre como ele gerencia os dilemas pessoais dos usuários. Em abril, o Openai retirou uma atualização que, disse ele, tornou o chatgpt muito lisonjeiro ou agradável. Segundo a empresa, o Chatgpt “às vezes dizia o que parecia bem em vez do que era realmente útil”.
