Nada é mais sagrado?
Reddit é um dos Últimos lugares na internet Onde postagens e comentários não parecem um poço interminável de IA Slop. Mas isso está começando a mudar, e está ameaçando o que o Reddit diz é sua vantagem competitiva.
CEO do Reddit Steve Huffman Diz que o que mantém as pessoas voltando ao site são as informações fornecidas por pessoas reais, que geralmente dão respostas atenciosas a perguntas. À medida que a Internet fica saturada com o conteúdo gerado pela IA, Huffman diz que as comunidades do Reddit, com curadoria e gerenciado por pessoas reais, o diferenciam de outras plataformas de mídia social.
“O mundo precisa da comunidade e do conhecimento compartilhado, e é isso que fazemos de melhor”, ” Huffman disse aos investidores Na semana passada, em uma chamada de ganhos.
O tráfego para o Reddit cresceu consideravelmente no ano passado, graças em parte aos usuários pesquisando especificamente para postagens do Reddit relacionadas às suas perguntas.
O modelo de negócios do Reddit tem visto aumentando a atenção Desde que a empresa foi pública em março do ano passado. Desde então, o Reddit aumentou a publicidade em seus fóruns e acordos com tinta com o OpenAi e o Google para permitir que seus modelos treinem o conteúdo do Reddit. Em abril, as ações do Reddit caíram depois que alguns analistas compartilharam temores de que o sucesso da empresa pudesse ser inextricavelmente ligado à pesquisa do Google.
“Apenas alguns anos atrás, acrescentando o Reddit ao final de sua consulta de pesquisa se sentiu romance”, disse Huffman em uma chamada de ganhos no terceiro trimestre em fevereiro. “Hoje, é uma maneira comum de as pessoas encontrarem informações, recomendações e conselhos confiáveis”.
Mas agora, alguns usuários do Reddit estão reclamando que as comunidades exclusivamente humanas pelas quais o site é conhecido estão sendo infiltradas por bots AI, ou usuários confiando em ferramentas como chatgpt Para escrever suas postagens, que geralmente podem ser vistas pela formatação. Chatgpt adora uma lista de marcadores e um em-dash, e hoje em dia tende a ser efusivo em sua positividade.
Um usuário da comunidade r/singularidade, que se dedica à discussão sobre Avanços da IARecentemente, sinalizou um post do que eles acreditavam ser um usuário gerado pela IA, espalhando desinformação sobre a tentativa de julho de 2024 Assassinato do presidente Donald Trump.
“Ai acabou de assumir a primeira página do Reddit”, observou o pôster.
E em 28 de abril, o diretor jurídico da Reddit disse que a empresa estava enviando “demandas legais formais” para pesquisadores da Universidade de Zurique depois de inundaram uma das comunidades do local com os bots de IA para um estudo. Os moderadores do fórum R/Changerview disseram em um post que os pesquisadores conduziram um “experimento não autorizado” para “estudar como a IA poderia ser usada para mudar de vista”.
Os pesquisadores que conduziram o experimento disseram em um post do Reddit que 21 das 34 contas que eles usaram foram “proibidos de sombra” pelo Reddit, o que significa que o conteúdo que eles publicaram não apareceriam para os outros. Mas eles disseram que nunca receberam nenhuma comunicação do Reddit em relação às violações dos termos de serviço.
Os moderadores chamaram o experimento antiético e disseram que a IA direcionou alguns usuários no fórum “de maneiras pessoais pelas quais não se inscreveram”. O post diz que a IA se esforçou em alguns postos, incluindo fingir ser vítima de estupro, posando como um homem negro que oposto à Black Lives Matter e até mesmo se apresentando como uma pessoa que recebeu cuidados abaixo do padrão em um hospital estrangeiro, entre outras reivindicações.
“Os riscos de manipulação psicológica representados pelo LLMS é um tópico extensivamente estudado”, escreveram os moderadores da comunidade. “Não é necessário experimentar assuntos humanos que não consentiam”.
Um porta -voz da Universidade de Zurique disse ao Business Insider que a escola está ciente do estudo e está investigando. O porta -voz disse que os pesquisadores decidiram não publicar as descobertas do estudo “por conta própria”.
“À luz desses eventos, o Comitê de Ética da Faculdade de Artes e Ciências Sociais pretende adotar um processo de revisão mais rigoroso no futuro e, em particular, para coordenar com as comunidades nas plataformas antes dos estudos experimentais”, disse o porta -voz.
Para a estratégia de negócios do Reddit, que se concentra amplamente na publicidade e na crença de que fornece algumas das melhores pesquisas porque se baseia em reações humanas reais, o aumento da presença de IA na plataforma é uma ameaça. E o Reddit notou.
Na segunda -feira, Huffman disse em um post do Reddit que a empresa começaria a usar terceiros para “manter o Reddit Human”. Huffman disse que a “força do Reddit é seu povo” e que “a IA indesejada nas comunidades é uma preocupação séria”.
“Eu não publico há algum tempo – e vamos ser honestos, quando aparecer, geralmente significa que algo se foi de lado (e se não for do lado de lado, provavelmente está prestes a)”, disse Huffman.
Os serviços de terceiros agora solicitarão aos usuários que criem contas do Reddit para obter mais informações, como a idade, disse Huffman. Especificamente, “precisaremos saber se você é humano”, disse ele.
Um porta -voz do Reddit disse à BI que o experimento de Zurique era antiético e que as ferramentas automatizadas do Reddit sinalizaram a maioria das contas associadas antes do término do experimento. O porta -voz disse que o Reddit está sempre trabalhando nos recursos de detecção e já refinou ainda mais seus processos desde que o experimento veio à tona.
Ainda assim, alguns usuários do Reddit dizem que estão cansados do que vêem como uma “proliferação de bots LLM nos últimos 10 meses”.
“Alguns deles imitam o mais morto cerebral dos usuários, fornecendo respostas de uma palavra com emojis no final”, escreveu um usuário. “Eles publicam com frequência não natural, em grande parte nos subreddits conhecidos por votar em praticamente qualquer coisa”.
