Na crescente corrida armamentista entre os modelos de IA como Chatgpt E os seres humanos tentando determinar se o que estão lendo foi gerado por máquina, não há uma maneira fácil ou infalível de identificar o bot-ou existe?
“Eu – continuo – vendo – estranho – longos – traços – em – posts,” escreveu Uma usuário do LinkedIn em sua página há vários meses. “Sim, este é o trabalho do Chatgpt”, afirmou ela, sem provas da suposta mania de traço, muito menos a tendência de o bot de Openai cuspir. Ela não teve um problema com ninguém usando a IA para escrever para eles, mas instou as pessoas a editarem os EM correndo depois para obter uma legibilidade. “Se você está saindo nesses traços, faça uma pausa e verifique”, ela aconselhou. Em um publicar Na mesma época, no Subreddit Chatgpt, um usuário escreveu: “Estou ficando cada vez mais desconfiado dos e -mails que estou recebendo de um colega em particular que sinto que está usando a IA”, explicando: “Em (e) coisa que eu percebo, eu uso que eles usam mais de que ‘não soube que eu sou mais importante.
E em um clipe viral recente do Instagram de LuxantmifeUm podcast de estilo de vida destinado a um público da Gen Z, um co-apresentador se referiu ao EM Dash como “The Chatgpt Hyphen”. Ela disse que uma empresa de moda que anunciou uma marca com uma breve declaração sobre as mídias sociais estava enfrentando críticas nos comentários dos leitores que viram dois emanhas no texto e imediatamente assumiram que haviam deixado o Chatgpt escrever a cópia do anúncio. “É um hífen mais longo, não sei se você percebeu”, acrescentou. Como o usuário irritado do LinkedIn, os hosts concordaram que o uso da IA em si não era um problema, mas que alguém deveria saber editar o que o bot produzir para “colocá -lo em suas próprias palavras” e “tirar o hífen”.
Mas não havia nada de gramaticalmente incorreto ou esteticamente censurável sobre como a marca de moda havia usado os traços. Nem há motivos para acreditar – quando os filtros de IA supostamente sofisticados podem identificar falsamente Escrita autêntica como gerada por chatgpt-que a aparência de qualquer forma única de pontuação é um marcador revelador do texto de bot. O próprio Chatgpt, que se nada mais deve saber sobre a história de seu próprio treinamento, informará que os em traços “por si só são não Um sinal confiável de que um texto foi gerado pela IA ”e que o equívoco popular em contrário pode ser um vestígio de modelos anteriores e menos sofisticados.
“Algum conteúdo precoce gerado pela IA (especialmente antes de 2023) usava os traços mais frequentemente do que o escritor humano médio”, diz o bot. “Fazia parte de imitar a escrita formal ou estilizada”. Agora que o ChatGPT e as ferramentas semelhantes podem ajustar sua cadência e tom com base em avisos descritivos, acrescenta que a pontuação varia de acordo com o estilo de escrita solicitado.
Por um lado, a opinião recebida de que o longo traço é um produto da IA generativa que basicamente não existia nos anos anteriores é um sinal preocupante sobre a alfabetização pública: poetas e filósofos célebres de Emily Dickinson a Friedrich Nietzsche são conhecidos por exibi -los de maneiras expressivas, e muitas pessoas seriamente sobre o artesanato da escrita os encontram úteis. Não ter familiaridade básica com ela como uma marca na página é talvez uma medida da leitura limitada de alguém. (Dito isto, o famoso gramático e lexicógrafo Bryan Garner tem chamou isso “Talvez o ponto de pontuação mais subutilizado na escrita americana”, para que isso possa ser um fator.)
No entanto, a suspeita do EM Dash também fala com nossa crescente paranóia sobre a comunicação automatizada. (See: the earlier case of the redditor convinced that their co-worker was using AI to write emails.) We are acutely aware that some amount of the media that saturates our waking lives has been spun out of AI models, and we are on the alert for any peculiarity — like, say, extra fingers on an machine-made image of a person — that suggests what we’re seeing is a kind of algorithmic output instead of material that is consciously and intentionally projetado por um ser humano.
Quando se trata de texto, existem alguns exemplos claros de bots sinalizando-se, como quando os advogados apresentam moções legais que citam processos judiciais inexistentes. O problema é que apenas a escrita “polida” agora está sendo confundida com o conteúdo da IA. Os modelos, é claro, são treinados em um enorme volume de prosa composta e editada profissionalmente, incluindo livros, revistas, trabalhos acadêmicos e assim por diante, e (ao contrário de muitas pessoas) seguem as regras e convenções da gramática. Se um erro de digitação ou uma palavra mal usada for uma indicação de uma pessoa real em um teclado, o raciocínio parece ir, a falta de erros pode apontar para o ChatGPT.
Isso simplesmente não segue, no entanto. Devemos esperar que uma grande empresa de moda tenha redatores que colaboram em declarações compartilhadas nos canais de mídia social da marca, que eles concordam com a redação de suas mensagens, que eles verifiquem duas vezes a ortografia e, sim, até vestir suas frases com um pouco de talento. O EM Dash tem sido uma característica da linguagem de marketing, útil para criar ritmo e ênfase. Depois de começar a assumir que qualquer peça de texto composta convincente deve ter vindo da IA, você está jogando toneladas de coisas que exigiam trabalho real.
Na melhor das hipóteses, há apenas a sugestão anedótica de que esse chatgpt se inclina no Dash Em, com desenvolvedores na comunidade Openai ocasionalmente seguindo sobre a frequência que aparece no diálogo do bot, às vezes contra instruções. De qualquer forma, não pode ser uma métrica confiável de confiança da IA pela simples razão de que é um caso de software imitando humano padrões de escrita. A verdadeira assinatura de uma resposta de chatgpt é mais abstrata e menos definitiva. É a qualidade plana, as frases de fórmula, a ausência de idéias originais. Os escritores individuais são compostos de idiossincrasias que uma máquina não capturam e podem inovar ou se adaptar de maneiras que não serão.
Infelizmente, isso nos deixa em um mundo ambíguo em que a identificação de texto gerada pela IA não é tão fácil quanto observar a aparência de algumas linhas horizontais. Embora, como qualquer professor que classifique os ensaios dos alunos provavelmente lhe dirá, é possível obter um segundo sentido para o ChatGPT sem esse suposto hack. Com o tempo, o resto de nós pode desenvolver uma sensação melhor para a escrita artificial – ou pelo menos alguém esperaria. No momento, parece que os entusiastas do Dash em EM terão que viver com as alegações de chatbot.
