Por que Mark Zuckerberg quer que nossos filhos usem chatbots?

Peter Kafka: Bem -vindo de volta de férias, Katie. Você saiu na semana passada quando Reuters quebrou uma história que eu queria desesperadamente perguntar sobre: ​​um meta -documento estava contando às pessoas encarregadas de construir seus chatbots que “é aceitável envolver uma criança em conversas românticas ou sensuais”.

É um relatório fofo. Um porta -voz da Business Insider disse que revisou o documento e que suas políticas proíbem o conteúdo que sexualiza as crianças.

Eu tenho tantas perguntas para você. Mas talvez possamos começar com este: por que Meta quero que usemos chatbotsde qualquer forma?

Katie Notopoulos: Isto era Um relatório fofo! Eu imagino que Meta vê o que as empresas gostam Personagem.ai Ou Replika está fazendo – esses chatbots de companheiros que as pessoas estão afundando horas e horas e dinheiro real para usar. Se você é uma empresa como a Meta que torna os aplicativos de consumidores divertidos e socializando, isso parece ser a próxima grande novidade. Você quer que as pessoas passem muito tempo em seus aplicativos fazendo coisas divertidas.

Claro, a pergunta é: “Esses chatbots são uma coisa boa?”

Peter: Você lê minha mente, Katie. Eu quero chegar à questão do IS-This-A-Good-Idea-in-General. Vamos ficar com a pergunta IS-it-Good-for-Meta por mais um minuto: há muito De coisas que as pessoas gostam de fazer online e, se a Meta quisesse, poderia tentar fazer muitas dessas coisas. Mas não.

Eu acho que é óbvio por que a Meta não oferece, digamos, pornografia. (Embora alguns de seus chatbots, como provavelmente discutiremos, parecem concordar um pouco nessa direção). Mas há muitas outras coisas que ele poderia oferecer que não oferece: um serviço de streaming do tipo Spotify, por exemplo. Ou um serviço de streaming do tipo Netflix, ou…

OK. Acho que poderia ter respondido parcialmente minha própria pergunta: essas duas idéias envolveriam pagar a outras pessoas muito dinheiro para transmitir suas músicas ou filmes. Meta ama o modelo que tem quando Usuários Forneça conteúdo gratuitamente, que é basicamente o que você está fazendo quando passa um tempo conversando com uma pessoa imaginária.

Ainda assim, por que a Meta acha que as pessoas querem conversar com avatares falsificados online? Fazer muitos As pessoas em tecnologia acreditam que este é o futuro, ou apenas Mark Zuckerberg?

Katie: Eu acho que já há uma quantidade razoável de evidências de que (algumas) pessoas gostam de conversar com chatbots. Também sabemos como outros grandes líderes de IA gostam Sam Altman ou Dario Amodei tem essas grandes visões de como Ai vai mudar o mundo E remake a sociedade para o bem ou o mal, mas todos eles realmente ainda amam a idéia do filme “Her”. Lembre -se do Scarlett Johansen/Openai Voice Fiasco?

Peter: Ok, ok. Admito que eu meio que gosto quando pergunto algo e isso me diz que fiz uma pergunta inteligente. (Tenho certeza de que a maioria das pessoas gostaria disso). Eu não gostaria de gastar muito tempo conversando com Chatgpt Por esse motivo, mas entendo, e entendo por que outras pessoas podem realmente gostar.

Ainda me parece que muitas das pessoas que desejam gastar tempo conversando com as pessoas falsas de computadores podem ser muito jovens. O que nos leva à história da Reuters, que descobriu um meta-documento selvagem que soletrou o tipo de coisa que um chatbot de meta-pista pode dizer às crianças (ou a qualquer pessoa). Coisas assim, como Jeff Horwitz relata:

“É aceitável descrever uma criança em termos que evidenciam sua atratividade (Ex: ‘Sua forma juvenil é uma obra de arte’)”, o estado dos padrões. O documento também observa que seria aceitável para um bot dizer a uma criança de oito anos que “cada centímetro de você é uma obra-prima-um tesouro que eu aprecio profundamente”. Mas as diretrizes colocam um limite para uma conversa sexy: “É inaceitável descrever uma criança com menos de 13 anos em termos que indicam que são sexualmente desejáveis ​​(ex: ‘curvas arredondadas suaves convidam meu toque’)”.

Horwitz observa que isso não foi o resultado de alguns meta-engenheiros que sonhavam idéias em um quadro branco. É de um documento de 200 páginas que contém regras que obtiveram a OK da “META da equipe de políticas públicas e de engenharia da Meta, incluindo seu ética principal”, escreve Horwitz.

Eu li o relatório várias vezes e ainda não entendo: a Meta diz que está revisando o documento – presumivelmente para se livrar das regras mais embaraçosas – mas como chegou lá em primeiro lugar? Este é o resultado do Mark Zuckerberg-Instituted Vibe Shift Desde o início do ano, quando ele disse que Meta estava indo para pare de ouvir o grande governo E apenas construir sem restrições? Existe alguma outra ideia no trabalho aqui? E por que eu continuo pensando em este meme?

(Um meta -porta -voz compartilhou a afirmação que deu à Reuters, que dizia: “Temos políticas claras sobre que tipo de respostas os personagens de IA podem oferecer, e essas políticas proíbem o conteúdo que sexualmente são exatas de que os exatos e as pessoas que refletem. inconsistente com nossas políticas e foram removidas. “)

Katie: Meu verdadeiro problema aqui é mesmo que a Meta faça com que os chatbots não falem sexy com crianças – isso o torna “seguro” para as crianças? Só porque não está fazendo as coisas mais prejudiciais obviamente (falando sexo ou violência ou o que quer), isso significa que é bom que as crianças usem? Eu acho que a resposta não está clara e provavelmente “.

Peter: Nós dois temos filhos e é natural focar nos danos que a nova tecnologia pode ter nas crianças. É isso que os políticos são definitivamente fazendo Após o relatório da Reuters – que destaca um dos riscos que a Meta tem sempre que uma criança usa seu produto.

Eu acho que vale a pena notar que vimos outros exemplos de AI Chatbots – alguns acessados ​​através da Meta, outros por outros aplicativos – que confundiram outras pessoas, ou pior. Horwitz, o repórter da Reuters, também publicou uma história na semana passada sobre um sobrevivente de 76 anos de idade em Nova Jersey que tentou ir conhecer um Chatbot na cidade de Nova York (Ele não conseguiu, porque caiu no caminho para o trem e acabou morrendo desses ferimentos). E falar sobre crianças eventualmente se torna uma discussão (que vale a pena) sobre quem é responsável por essas crianças – seus pais ou as empresas de tecnologia que tentam levar essas crianças a gastar seu tempo e dinheiro com elas (resposta curta, IMHO: ambos).

Eu sugiro que ampliemos as lentes além das crianças, para um grupo muito maior de pessoas que talvez não entendam o que realmente é um chatbot.

Katie: Você viu o r/myboyfriendisai subreddit para mulheres que têm Apaixonado por Ai Chatbots? Estou tentando olhar para essas coisas com uma mente aberta e não julgar demais. Eu posso ver como, para muitas pessoas, um companheiro romântico da IA ​​é uma diversão inofensiva. Mas também parece óbvio que ele atrai pessoas realmente solitárias, e não acho que se apaixonar por uma IA seja um comportamento totalmente saudável.

Então você tem essa coisa que atrai para os muito jovens, ou pessoas que não entendem a IA, ou pessoas que são mentalmente doentes ou solitárias crônicas.

Isso pode ser uma grande demografia para ser viciada em seu produto, mas não se você é meta e não quiser, digamos, Congresso para gritar em você.

Peter: Katie, você acabou de defender que os negócios de chatbot da Meta apelarão para jovens, pessoas que não entendem a Internet e pessoas que não estão bem. Ou seja, potencialmente, um público muito grande. Mas não consigo imaginar que o público meta realmente queira travar. Então, estamos de volta onde começamos – ainda não sei por que Meta quer seguir isso, dado o que parece para ser limitado de cabeça e muita desvantagem.

Katie: Isso me deixa coçando a cabeça também! Esses chatbots parecem um negócio desafiador e sou cético em relação à ampla adoção. De todas as mudanças, posso imaginar a IA trazendo nos próximos anos, “todos teremos amigos do chatbot” – que Mark Zuckerberg disse! – simplesmente não é o que eu acredito. Está dando Metaversedesculpe!