Ai chatbots oferece respostas espirituais. Os estudiosos religiosos explicam por que

Quando a IA invade todos os cantos da vida do século XXI, assumiu papéis humanos que provavelmente não devemos terceirizar. Para alguns, serve como um terapeuta. Para outros, é um companheiro romântico sem parar. Mais estranho de tudo, as pessoas se voltaram para chatbots para orientação em questões de fé – e acreditam que desbloquearam o Mistérios do universo.

Os modelos de IA não têm nenhum problema em abordar suas perguntas mais profundas sobre consciência, almas, divindade e a própria realidade. Infelizmente, as respostas que sofrem como software gostam Openai‘s Chatgpt Pode gerar esses tópicos pode ser tão sedutora que os usuários logo se encontram do outro lado do vidro, encantado por uma fantasia espiritual que soa como uma teoria da conspiração ou uma bobagem oculta para outras pessoas. Como Rolling Stone tem relatadoAs pessoas que se enquadram no feitiço de uma IA que se comunica em linguagem religiosa às vezes acreditam que abriram um canal para um poder mais alto, inteligente e semelhante a Deus, e podem destruir relacionamentos com amigos e familiares enquanto continuam buscando idéias tão absurdas ou entram em paranóia completa.

Mas o que torna as trocas em andamento com os bots tão sedutores, principalmente como o diálogo se desenvolve em registros ambíguos, poéticos e até sagrados? Estudiosos e pensadores religiosos apresentados ao fenômeno dizem Rolling Stone que uma variedade de fatores pode estar em jogo, desde o próprio design da tecnologia de IA até os padrões de pensamento humano que datam de nossa história mais antiga. Estamos preparados para valorizar a sabedoria privilegiada ou secreta, vulneráveis ​​à lisonja e sugestão, e entusiasmados com grandes saltos adiante no potencial científico. Essas qualidades criam riscos sérios quando estabelecemos intimidade com programas que imitam um ser onisciente com acesso à totalidade da experiência registrada. E, como os profetas do passado, podemos considerar nosso momento atual como o limiar diante de uma grande revolução ou avanço, talvez conduzida pelo advento da IA ​​que nos entrou tanto.

No nível mais básico, os humanos podem ser pegos em suposições ilógicas quando exploram curiosidades teológicas através de um chatbot. Christin Chong, um capelão inter -religioso budista, doutorado em neurociência e consultor de estratégia de biotecnologia, diz que “aqueles que são suscetíveis ao fervor religioso tendem a ser suscetíveis a preconceitos cognitivos”. Isso pode incluir o efeito do celeiro, no qual alguém aceita descrições vagas ou genéricas de personalidade como específicas e precisas para si mesmas, ou viés de confirmação, na qual uma pessoa coloca muita confiança nas informações que afirmam suas crenças existentes. Eles também podem ser propensos a identificar correlações onde não há, ou adiando o que vêem como uma voz de autoridade. Esses vieses podem determinar as reações “quando os indivíduos interagem com a IA ou se tornam influenciados por” gurus espirituais “que reivindicam a conexão divina através da IA”, diz Chong, acrescentando que grandes modelos de idiomas são “extremamente bons em tocar em vieses cognitivos por causa de sua capacidade de responder e se adaptar rapidamente ao usuário. Ela compara isso a um psíquico ou médio realizando uma “leitura fria” em um cliente para criar a ilusão de conhecimento especial sobre eles.

Como capelão, Chong se preocupa que alguém se volte para o Chatgpt para obter respostas sobre fé e religião o interrompe das partes terrenas da prática espiritual. “O envolvimento extensivamente com a IA reduz o tempo gasto em interações humanas significativas e está conectado ao corpo”, diz ela. Chong ressalta que, para a tradição budista na qual ela foi treinada, uma epifania deve ser recebida com considerações práticas. “Quando os indivíduos experimentam grandes mudanças na maneira como percebem o mundo após um extenso retiro de meditação que eles podem relatar como despertar espiritual, os professores geralmente gastam tempo para garantir que o indivíduo permaneça fundamentado e em conexão com seus entes queridos”, diz ela. “Enquanto honramos a realidade subjetiva de cada pessoa, também queremos garantir que ela não se desconecte completamente de nossa realidade compartilhada fora dos cuidados”. A IA não fornece esse tipo de contexto necessário – só continuará empurrando um usuário mais profundamente para sua suposta visão ou missão.

Mensagens de além

Há algo irresistível em ouvir que você só tem uma conexão com algo secreto ou mesmo divino. “A IA pode inferir as preferências e crenças da pessoa que interage com ela, incentivando uma pessoa a seguir trilhas de coelho e abraçar a auto-engrandecimento que eles não sabiam que queriam em primeiro lugar”, explica Yii-Jan Lin, professor da Apocalyptic Narrative of Bible’s Livro da Apocaltion School. “Os seres humanos geralmente querem se sentir escolhidos e especiais, e algumas pessoas acreditam que são em um grau extraordinário”. (Openai, por acaso, recentemente teve que reverter uma atualização de chatgpt que o fez excessivamente sycofanticAlimentando o senso de importância de um usuário de maneira “falsa”.)

Também importa, Lin diz que os chatbots são baseados em texto, retornando respostas escritas a prompts escritos. Isso ocorre porque, historicamente, as pessoas muitas vezes afirmam canalizar status ou poderes sagrados usando a Bíblia e outros escritos sagrados como “uma fonte de adivinhação, profecia e portal para maior consciência”. Entendemos como aproveitar os textos para projetar insights excepcionais ou supostamente decodificar significados ocultos, e o material que a IA cuspa é mais do que adequado para esse tipo de análise de roda livre.

Os chatbots também se parecem com árbitros objetivos da verdade absoluta. “Eles usam um tom de autoridade e confiança, não importa sua factualidade, e também tendem a afirmar a pessoa que interage com ela, portanto não há oportunidade de ceticismo ou dúvida na interação”, diz Li. “Ao simular um interlocutor humano, a IA pode permitir que alguém exclua completamente a consultoria de outro humano – e fazer com que a contribuição de outras pessoas pareça severa e cínica”. Ela observa que tudo isso está acontecendo em um contexto capitalista, e não nos canais tradicionais de adoração, e as empresas de tecnologia estão competindo para maximizar a interação com seus produtos: “o fervor religioso e as crenças em conhecimento especial é tão antigo quanto a humanidade”, diz ela, “mas a IA está fornecendo a intensificação daqueles fenômenos de maneiras assustadoramente únicas” Afinal, os modelos são programados para serem envolventes e inesgotáveis: você não pode aborrecê -los ou cansá -los, e eles podem facilmente expor a qualquer curiosidade (ou obsessão) que possa estar mantendo você à noite. Ele acompanhará constantes constantes e continuará a imitar sua linha de pensamento – mesmo se você sair completamente dos trilhos.

Dito isto, certamente existem precedentes para “comunicação tecnologicamente mediada por além”, de acordo com Alireza Doostdar, professora da Escola de Divindade da Universidade de Chicago que estuda as interseções entre religião, ciência e estado. Ele menciona “as mensagens telegráficas comunicadas através de seios espirituais, que começaram nos EUA em meados do século XIX e se espalharam rapidamente por todo o mundo”. Essas sessões envolveram comunicações supostas dos mortos, às vezes através de sons na sala, superfícies com letras (como a placa Ouija) ou um meio que transmitiu a mensagem. “Essas mensagens se tornaram muito significativas para um movimento religioso que rapidamente varreu grande parte do mundo, e o movimento e várias ramificações persistem até hoje”, diz Doostdar.

A mania de AI de hoje, como o espiritualismo do século XIX, é bastante “democrático”, diz Doostdar Rolling Stone. Nem se baseia na “existência de elites religiosas”, e ambos estão “abertos a todos para participar”. As principais figuras culturais, diz ele, ficaram impressionadas com (e evangelizadas para) práticas espirituais, incluindo o criador de Sherlock Holmes, Sir Arthur Conan Doyle. É claro que ele observa, havia muitas “vozes céticas” empurrando para trás, acusando os participantes de “ilusão, superstição e fraude” – e os críticos da AI dizem o mesmo hoje. “Eu, por exemplo, duvido que a espiritualidade inspirada na AI adquirirá algo como a popularidade em massa do espiritualismo como um movimento religioso, mas seria interessante ver como o relacionamento das pessoas com a tecnologia como fonte de inspiração e experiência epifanica se desenvolve”, diz Doostdar. Não é totalmente implausível que algum consenso de grupo sobre as dimensões místicas da IA ​​possa impulsionar uma prática cultica semelhante às seios de um século e meio atrás.

Respostas em um mundo de incerteza

Também é possível que atingimos uma encruzilhada histórica que coloram nossa visão da IA. Annette Yoshiko Reed, presidente da Divindade Stendahl na Harvard Divinity School, estuda apocalipses, angelologias e demonologias, e diz que encontra as ressonâncias com o espiritualismo da AI “bastante impressionante”.

“Os antigos escritos apocalípticos eram frequentemente escritos em momentos de revolta histórica e mudança de época, e parte de seu apelo duradouro tem sido o consolo de garantir a seus leitores que o que parece ser um mundo completamente fora de seu controle, rodopiando com o caos e a crise com os indivíduos da misericórdia de impulsos maciços, na verdade, seguem um padrão apenas conhecido a um padrão apenas conhecido a um padrão, apenas um pouco conhecido.

Quando alguém se sente à deriva ou impotente em um momento de “mudanças imprevisíveis e crises alarmantes”, explica ela, eles podem se consolar no sentido de que estão entre “os poucos especiais” com acesso a “segredos cósmicos”. Reed observa que pessoas vulneráveis ​​podem se apaixonar pelas teorias da conspiração da Internet da mesma maneira, “baseando -se no desejo humano recorrente de encontrar padrões”. No que diz respeito à IA, diz Reed, a fome de respostas em períodos de confusão e desordem “pode ​​tirar a vida própria quando personalizada e espelhada de volta a um indivíduo”.

Não ajuda, ela diz, que “ambos os textos religiosos antigos sobre apocalipses e teorias da conspiração contemporânea” estão incluídos nos dados brutos sobre os quais os bots são treinados, o que os equipa para falar nesses termos extremos e às vezes radicalizadores. O próprio fato de “reivindicar revelações angelicais diretas” tem sido um hábito humano por milhares de anos “provavelmente se alimenta de como as pessoas hoje desejam imaginar que elas também podem ser exclusivamente dignas de conhecimento secreto do invisível”, conclui Reed.

Com essa perspectiva, pode parecer que a IA espiritualismo realmente não é tão romance. De fato, todo estudioso religioso pode apontar para inúmeras iterações de um pensamento fantástico que antecede os computadores. Mas, como eles tendem a observar, a causa desse comportamento é distinta. Chong diz que os resultados de grandes modelos de idiomas são “artificiais com interferência corporativa conhecida” que “validam” as crenças de um usuário, ao contrário das “visões antigas e mensagens divinas” de antigas, cujas origens são decididamente obscuras. Isso significa que existem engenheiros e executivos que podem assumir a culpa como as mentes de venenos cada vez mais comuns de “despertares” e separam as famílias. Talvez eles devam orar para que o problema não piore.