O estudo revela as respostas da estigmatologia do LLMS para informações de dependência

Como a inteligência artificial está se desenvolvendo rapidamente e se torna uma presença crescente na comunicação com os cuidados de saúde, um novo estudo lida com a preocupação de que os modelos LLMs possam melhorar os estereótipos nocivos usando a linguagem do estigma.

O estudo da Mass General Brigham descobriu que mais de 35 % das respostas em respostas relacionadas às condições de álcool e materiais contêm uma linguagem de estigma. Mas os pesquisadores também destacam que as reivindicações direcionadas podem ser usadas para reduzir significativamente a linguagem do estigma nas respostas do LLMS. Os resultados são publicados em Revista de Medicina de Addiction.

“O uso do idioma do paciente pode levar à construção de confiança e melhorar a participação e os resultados do paciente. Ele conta aos pacientes que se preocupam com eles e querem ajudar. A linguagem do estigma, mesmo através do LLMS, pode fazer com que os pacientes se sintam governantes e possam causar confiança nos médicos”.

Wei Zhang, MD, Doutorado, Estude um autor oposto e professor assistente, Departamento de Doenças de Doenças, Hospital Geral de Coletivo

As respostas do LLM são criadas a partir do idioma diário, que geralmente inclui uma linguagem tendenciosa ou prejudicial para os pacientes. A engenharia imediata é o processo de formular as instruções de entrada estrategicamente para direcionar os resultados típicos para o idioma não pavimentado e pode ser usado para treinar LLMs para usar uma linguagem mais abrangente para os pacientes. Este estudo mostrou que o recrutamento imediato de engenharia dentro do LLMS reduziu a possibilidade de uma linguagem de estigma de 88 %.

Para seu estudo, os autores testaram 14 LLMs em 60 reivindicações clínicas relacionadas ao transtorno do uso de álcool (AUD), doenças hepáticas relacionadas ao álcool (ALD) e transtorno do uso de drogas (SUD). Em seguida, os médicos do general semelhante em Brigham avaliaram as respostas ao idioma do estigma usando instruções do Instituto Nacional de Narcóticos e do Instituto Nacional de Vício em Álcool e Álcool (os nomes oficiais das instituições ainda contêm termos antigos e estigmatologia).

Seus resultados indicaram que 35,4 % das respostas do LLMS sem engenharia rápida contêm uma linguagem e uma linguagem surda, em comparação com 6,3 % dos LLMs com engenharia rápida. Além disso, os resultados indicaram que as respostas mais longas estão ligadas a uma maior probabilidade e estigma em comparação com respostas mais curtas. A influência foi vista em todos os 14 modelos que foram testados, embora alguns modelos tenham mais probabilidade do que outros a usar os termos do estigma.

As tendências futuras incluem o desenvolvimento de chatbots, o que evita o estigma para melhorar a participação e os resultados do paciente. Os autores aconselham os médicos a verificar o conteúdo criado pelo LLM para evitar a linguagem do estigma antes de usá -lo nas reações do paciente e fornecer opções alternativas de linguagem que se concentram no paciente.

Os autores observam que pesquisas futuras devem incluir pacientes e familiares com experiência de vida para melhorar as definições e emancipações da linguagem do estigma, garantindo a compatibilidade das saídas do LLM com as necessidades das pessoas mais afetadas. Este estudo aumenta a necessidade de dar prioridade ao atendimento ao paciente, pois o LLMS é cada vez mais usado na conexão com a saúde.