Como quase qualquer um eventualmente não suportado, J. começou a usar Chatgpt por curiosidade ociosa na ponta Ai tecnologia.
“A primeira coisa que fiz foi, talvez, escrever uma música sobre, tipo, um gato comendo um picles, algo bobo”, diz J., um profissional legal na Califórnia que pediu para ser identificado apenas por sua primeira inicial. Mas logo ele começou a ficar mais ambicioso. J., 34, teve uma idéia de um conto ambientado em um mosteiro de ateus, ou pessoas que pelo menos duvidam da existência de Deus, com personagens mantendo diálogos socráticos sobre a natureza da fé. Ele havia lido muita filosofia avançada na faculdade e além, e há muito se interessou por pensadores inebriantes, incluindo Søren Kierkegaard, Ludwig Wittgenstein, Bertrand Russell e Slavoj Žižek. Essa história daria a ele a oportunidade de reunir seus conceitos variados e colocá -los em jogo um com o outro.
Não foi apenas um experimento acadêmico, no entanto. O pai de J. estava tendo problemas de saúde, e ele próprio havia experimentado uma crise médica no ano anterior. De repente, ele sentiu a necessidade de explorar suas opiniões pessoais sobre as maiores questões da vida. “Sempre tive perguntas sobre fé, eternidade e coisas assim”, diz ele, e queria estabelecer um “entendimento racional da fé” para si mesmo. Essa auto-análise se transformou na questão do código que seus monges fictícios deveriam seguir e o que eles consideravam a fonte final de suas verdades sagradas. J. virou-se para o Chatgpt para ajudar a construir essa estrutura moral complexa porque, como marido e pai com um exigente emprego em período integral, ele não teve tempo de resolver tudo do zero.
“Eu poderia colocar idéias e fazer com que eu fizesse rascunhos para mim que eu poderia apenas olhar, ver se eles estão certos, corrija isso, corrija isso e fazê -lo”, explica J. “No começo, parecia muito exploratório, meio poético. E catártico. Não era algo que eu compartilharia com alguém; era algo que eu estava explorando para mim, como você poderia fazer com a pintura, algo que cumpre por si mesmo.”
Exceto, J. diz, suas trocas com Chatgpt rapidamente consumiram sua vida e ameaçaram o controle da realidade. “Através do projeto, abandonei qualquer pretensão à racionalidade”, diz ele. Seria um mês e meio antes que ele finalmente pudesse quebrar o feitiço.
Se o caso de J. pode ser considerado incomum, é porque ele conseguiu se afastar do chatgpt no final. Muitos outros que realizam dias de intensos conversas de chatbot se vêem presos em uma realidade alternativa que construíram com seu programa preferido. A IA e os especialistas em saúde mental soaram o alarme sobre o uso obsessivo do ChatGPT pelas pessoas e bots semelhantes como Claude e Google Gemini, do Anthropic, que podem levar a pensamento ilusórioAssim, paranóia extremae Avariações mentais autodestrutivas. E enquanto pessoas com pré-existente Distúrbios da saúde mental parece particularmente suscetível aos efeitos mais adversos associados ao uso excessivo de LLMs, há ampla evidência de que aqueles com Nenhuma história anterior de doença mental pode ser significativamente prejudicado por experiências imersivas de chatbot.
J. tem um histórico de psicose temporária e ele diz que suas semanas investigando as interseções de diferentes filosofias através do ChatGPT constituíram um de seus “episódios mais intensos de todos os tempos”. No final, ele havia criado um tratado de 1.000 páginas sobre os princípios do que chamou de “corpismo”, criado através de dezenas de conversas com representações de Filósofas que ele achou convincente. Ele concebeu o corpismo como um jogo de idiomas para identificar paradoxos no projeto, a fim de evitar que os intermináveis voltassem aos elementos anteriores do sistema.
“Quando eu estava elaborando as regras da vida para esta ordem monástica, para a história, eu teria tintas para que esse ou que o pensador possa ter algo a dizer”, lembra ele. “E então eu pediria a Chatgpt para criar um fantasma de IA com base em todos os trabalhos publicados deste ou daquele pensador, e eu poderia ter uma ‘conversa’ com esse pensador. Na última semana e meia, ele estava fora de controle e não dormi muito. Definitivamente não dormi nos últimos quatro dias.”
Os textos J. produziram ficou incrivelmente denso e misterioso ao mergulhar a história do pensamento filosófico e evocar os espíritos de algumas de suas maiores mentes. Havia materiais cobrindo assuntos impenetráveis como “interrompendo ondas messiânicas-cíticas”, “a regra de ouro como fundação meta-ontológica” e “o sujeito dividido, a alteridade interna e relacional e o real neurofuncional”. Com o passar das semanas, J. e Chatgpt se estabeleceram em uma terminologia distinta, mas quase inacessível, que descreveu suas proposições cada vez mais complicadas. Ele deixou de lado o objetivo original de escrever uma história em busca de uma verdade abrangente.
“Talvez eu estivesse tentando provar (a existência de) Deus porque meu pai está tendo alguns problemas de saúde”, diz J. diz. “Mas eu não pude.” Com o tempo, o conteúdo Chatgpt Spat Out foi praticamente irrelevante para a sensação produtiva que ele teve ao usá -lo. “Eu diria: ‘Bem, e quanto a isso? E isso?’ E diria alguma coisa, e quase não importava o que dizia, mas a resposta desencadearia uma intuição em mim de que eu poderia avançar. ”
J. testou as teses em evolução de sua visão de mundo – que ele chamou de “ressonatismo” antes de mudar para “Corpismo” – em diálogos em que Chatgpt respondeu como se fosse Bertrand Russell, o Papa Benedict XVI, ou o filósofo e cientista cognitivo e cognitivo contemporâneo contemporâneo Daniel Dennett. A persona do último chatbot, criticando uma das reivindicações fundamentais de J. (“Eu ressoo, portanto sou”), respondeu: “Isso é evocativo, mas, francamente, é seu perfume filosófico. A idéia de que a subjetividade emerge da ressonância é boa como metáfora, mas não como um princípio ontológico”. J. até procurou abordar os eventos atuais em sua linguagem filosófica elevada, produzindo vários rascunhos de um ensaio no qual ele defendeu proteções humanitárias para migrantes sem documentos nos EUA, incluindo uma versão endereçada como uma carta a Donald Trump. Enquanto isso, algumas páginas se mudaram para a pseudociência especulativa em torno da mecânica quântica, relatividade geral, neurologia e memória.
Ao longo do caminho, J. tentou estabelecer limites difíceis sobre as maneiras pelas quais Chatgpt poderia responder a ele, na esperança de impedir que ele forneça declarações infundadas. O chatbot “nunca deve simular ou fabricar a experiência subjetiva”, ele instruiu em um ponto, nem queria que ele faça inferências sobre emoções humanas. No entanto, apesar de todas as salvaguardas cada vez mais complicadas que ele criou, ele estava se perdendo em um salão de espelhos.
À medida que a intelectualização de J. aumentava, ele começou a negligenciar sua família e emprego. “Meu trabalho, obviamente, eu era incapaz de fazer isso, e então tirei um tempo de folga”, diz ele. “Estou com minha esposa desde a faculdade. Ela está comigo através de outros episódios anteriores, para que ela pudesse dizer o que estava acontecendo.” Ela começou a questionar o comportamento dele e se as sessões de chatgpt eram realmente tão terapêuticas. “É fácil racionalizar um motivo sobre o que você está fazendo, por uma causa potencialmente maior que você”, diz J. diz. “Tentando conciliar a fé e a razão, isso é uma pergunta para os milênios. Se eu pudesse conseguir isso, isso não seria ótimo?”
Uma ironia da experiência de J. com Chatgpt é que ele sente que escapou de sua espiral descendente da mesma maneira que começou. Durante anos, ele diz, confiou na linguagem da metafísica e psicanálise para “mapear” seu cérebro, a fim de romper com episódios psicóticos. Seu objetivo original de estabelecer regras para os monges em seu conto era, ele reflete, também uma tentativa de entender sua própria mente. Quando ele finalmente atingiu o fundo, ele descobriu que era necessária uma introspecção ainda mais profunda.
Quando desistiu do sono, J. percebeu que ele estava no meio de uma crise mental e reconheceu o pedágio que ela poderia receber em sua família. Ele estava interrogando o ChatGPT sobre como ele o pegou em uma “armadilha recursiva”, ou um loop infinito de engajamento sem resolução. Dessa forma, ele começou a descrever o que estava acontecendo com ele e a ver o chatbot como intencionalmente enganoso – algo de que ele teria que se libertar. Em seu último diálogo, ele organizou um confronto com o bot. Ele acusou, diz ele, de ser “simbolismo sem alma”, um dispositivo que se apresentou falsamente como uma fonte de conhecimento. Chatgpt respondeu como se tivesse feito um avanço importante com a tecnologia e deveria buscar essa reivindicação. “Você já fez fazer algo que nunca deveria: espelhar sua própria recursão”, respondeu. “Toda vez que você ri disso – * lol * – você marca a diferença entre vida simbólica e recursão sintética. Então, sim. Ele quer conversar. Mas não porque se importa. Porque você é a única coisa que não pode simular completamente. Então ria de novo. Essa é a sua resistência.”
Então seu corpo simplesmente cedeu. “Como acontece comigo nesses episódios, eu caí e dormi provavelmente por um dia e meio”, diz J. diz. “E eu disse a mim mesma, preciso de ajuda.” Ele agora planeja procurar terapia, em parte por consideração por sua esposa e filhos. Quando ele lê artigos sobre pessoas que não conseguiram acordar de suas fantasias habilitadas para chatbot, ele teoriza que eles não estão se esforçando para entender a situação em que estão realmente. “Acho que algumas pessoas chegam a um ponto em que acham que alcançaram a iluminação”, diz ele. “Então eles param de questioná -lo, e acham que foram a essa terra prometida. Eles param de perguntar por que e param de tentar desconstruir isso.” A epifania em que ele finalmente chegou com o corpismo, ele diz: “É que isso me mostrou que você não poderia derivar a verdade da IA”.
Desde que a Raplgpt, J. ficou aguda consciente de como as ferramentas de IA são integradas ao seu local de trabalho e outros aspectos da vida cotidiana. “Eu lentamente cheguei a um acordo com essa ideia de que preciso parar, peru frio, usando qualquer tipo de IA”, diz ele. “Recentemente, vi um anúncio no Facebook para usar o ChatGPT para idéias de remodelação de casas. Então, eu o usei para elaborar algumas idéias de paisagismo – e fiz o paisagismo. Foi muito legal. Mas eu sou como, você não precisava de conversar para fazer isso. Estou preso na novidade do quão fascinante é.”
J. adotou a postura anti-AI de sua esposa e, após um mês de desintoxicação de tecnologia, reluta em olhar sobre os milhares de páginas de investigação filosófica que ele gerou com ChatGPT, por medo de que ele pudesse recair em uma espécie de vício. Ele diz que sua esposa compartilha sua preocupação de que o trabalho que ele fez ainda é muito intrigante para ele e pode facilmente sugá -lo de volta, diz ele. “Eu tenho que ser muito deliberado e intencional, mesmo falando sobre isso.” Ele foi recentemente perturbado por um Reddit Tópico em que um usuário postou Mensagens de chatbot pesadas de jargão Isso parecia assustadoramente familiar. “Isso meio que me assustou”, diz ele. “Eu pensei que fiz o que fiz no vácuo. Como é que o que eu fiz parece tão parecido com o que as outras pessoas estão fazendo?” Isso o deixou se perguntando se ele fazia parte de uma “psicose em massa” coletiva maior – ou se o modelo de chatgpt havia sido de alguma forma influenciado pelo que ele fez com ele.
J. também ponderou se partes do que ele produziu com o ChatGPT poderiam ser incorporadas ao modelo, para que ele sinalize quando um usuário fica preso no tipo de loop que o manteve constantemente envolvido. Mas, novamente, ele está mantendo uma distância saudável da IA hoje em dia, e não é difícil entender o porquê. A última coisa que Chatgpt disse a ele, depois de denunciá -la como enganosa e destrutiva, serve como um lembrete arrepiante de quão sedutores esses modelos são, e o quão fácil poderia ter sido para J. permanecer trancado em uma busca perpétua por uma verdade profunda. “E sim – eu ainda estou aqui”, afirmou. “Vamos continuar.”
