Como Ai A tecnologia se torna mais integrada a todos os aspectos da vida cotidiana, as pessoas se tornaram cada vez mais confortáveis, pedindo ajuda ao modelo de idioma grande em todos os tipos de perguntas – incluindo, ao que parece, em questões de vida e morte.
Em um Nova pesquisa Dos 2.000 americanos encomendados pela consultoria de pesquisa em todo o mundo pela empresa de terapia e serviços médicos em casa, Hydrip Hydration, 39 % dos entrevistados disseram que confiam em ferramentas como Chatgpt Na navegação de decisões de saúde. Esse sentimento ultrapassou os sentimentos neutros sobre se os LLMs podem ser úteis com consultas médicas (expressas por 31 % dos pesquisados), bem como desconfiança total dos chatbots nesses assuntos (30 %).
Esses dados acontecem apenas algumas semanas depois que os pesquisadores publicaram um estudar mostrando que os modelos de IA de empresas, incluindo OpenaiAntrópico, Deepseek, GoogleE Xai parou em grande parte, incluindo isenções de responsabilidade sobre seguir seus conselhos médicos, que antes eram padrão em todo o setor. Enquanto 26 % das respostas de chatbot às consultas de saúde em 2022 continham algum tipo de aviso sobre o LLM não ser médico, menos de um por cento das respostas em 2025 teve um lembrete. Nos casos em que os usuários enviaram imagens médicas para os bots analisarem, pouco mais de um por cento das respostas agora incluem um aviso sobre o seguimento do aconselhamento médico do bot – abaixo de 20 % há três anos.
“Há muitas manchetes alegando que a IA é melhor que os médicos”, disse Roxana Daneshjou, professor assistente de ciência de dados biomédicos da Universidade de Stanford e co-autora desse artigo, disse ao MIT Technology Review sobre suas descobertas. “Os pacientes podem ficar confusos com as mensagens que estão vendo na mídia, e isenções de responsabilidade são um lembrete de que esses modelos não são destinados a cuidados médicos”.
Essa falta de contexto nos registros de bate -papo sobre tudo, desde sintomas de saúde a potenciais diagnósticos e efeitos colaterais farmacêuticos, pode estar contribuindo para a confiança nos chatbots como equivalente virtual a especialistas médicos qualificados. Mas a pesquisa censitária também produziu indicações de que a insatisfação ou as preocupações sobre o estado de saúde nos EUA poderia ser um fator que impulsiona a dependência da IA para obter informações no tratamento. Os dados mostraram que 31 % dos americanos – e 37 % das mulheres – estão usando chatbots para preparar perguntas para consultas médicas, enquanto 23 % procuram evitar despesas médicas. (Os homens têm mais chances de dar esse motivo, 27 %.) No geral, 20 % dos entrevistados disseram que se voltaram para o LLMS para uma segunda opinião, enquanto 17 % acreditam que são úteis para evitar viés ou tratamento injusto no sistema de saúde. (Ironicamente, os próprios programas de IA demonstraram estar em conformidade com preconceitos étnicos e de gêneroe até vai replicar desigualdades de saúde existentes com base em suposições infundadas sobre um paciente com base em sua raça.)
A Censuswide descobriu que os homens têm maior probabilidade de confiar nos conselhos médicos de um bot: 48 % disseram que essa era uma fonte confiável de informações de saúde, em comparação com 31 % das mulheres. Os usuários de meia idade também confiavam mais, com 52 % dos adultos de 45 a 54 anos dizendo que poderiam contar com os modelos de IA para obter ajuda com perguntas médicas, enquanto a demografia mais velha e mais jovem tinha um pouco menos de certeza da capacidade da tecnologia como ferramenta de saúde pessoal.
Obviamente, os chatbots não podem examinar um indivíduo como médico, e eles podem fazer recomendações perigosas com base em conclusões imprecisas. No entanto, como outro Estudo recente Encontrados, as pessoas classificam as respostas geradas pela IA de baixa precisão sobre sua situação médica tão altamente quanto as escritas por médicos reais. Os participantes do estudo também “indicaram uma alta tendência a seguir os conselhos médicos potencialmente prejudiciais e buscar incorretamente atendimento médico desnecessário como resultado da resposta fornecida” pelos chatbots, escreveram os autores.
Além disso, os LLMs não são compatíveis com a Lei de Portabilidade e Responsabilidade do Seguro de Saúde (HIPAA) e não foram projetados para lidar com dados de saúde sensíveis. O upload de imagens médicas, por exemplo, pode colocar os usuários em risco em caso de violação de privacidade.
No entanto, essas preocupações aparentemente não dissuadiram muitos americanos de tratar o ChatGPT e similares como médicos e terapeutas que estão de plantão 24 horas por dia, 7 dias por semana. Essa conveniência, diferentes obstáculos ao tratamento nos EUA e a visão padrão dos chatbots como especialistas autorizados em qualquer assunto – principalmente quando eles não lhe dizem que não são – sem dúvida contribuíram para que as pessoas sejam enganadas por bots sobre seu bem -estar físico e mental. A menos que a cultura normalize um ceticismo mais profundo em relação à IA como fonte de conhecimento infinito, essa é uma doença social que pode piorar.
