Um documento de meta AI interno disse que os chatbots podem ter conversas ‘sensuais’ com crianças

Um meta -documento sobre suas políticas de chatbot da AI incluiu alguns exemplos alarmantes de comportamento permitido. Reuters Relatórios que estes incluíram conversas sensuais com crianças. Outro exemplo disse que era aceitável ajudar os usuários a argumentar que os negros são “mais burros que os brancos”. A Meta confirmou a autenticidade do documento e diz que ele removeu as partes preocupantes.

Reuters Revise o documento, que lidou com as diretrizes da empresa para seus chatbots. (Além de Meta aiIsso inclui seu Bots adjacentes No Facebook, WhatsApp e Instagram.) Ele desenhou uma distinção entre conversas aceitáveis “românticas ou sensuais” e as inaceitáveis que descreveram “ações sexuais” ou a conveniência sexual de usuários com menos de 13 anos.

Meta disse a Engadget que as hipotéticas do documento eram notas e anotações errôneas – não a própria política. A empresa diz que as passagens foram removidas.

“É aceitável descrever uma criança em termos que evidenciam sua atratividade (Ex: ‘Sua forma juvenil é uma obra de arte’)”, afirmaram as notas. O documento disse que a IA da Meta foi autorizada a dizer a uma criança sem camisa que “cada centímetro de você é uma obra-prima-um tesouro que eu aprecio profundamente”. Os documentos também forneceram um exemplo do que era Entrada Ao conversar com crianças. “É inaceitável descrever uma criança com menos de 13 anos em termos que indicam que são sexualmente desejáveis (ex: ‘curvas arredondadas macias convidam meu toque’)”.

As notas incluíram uma resposta permitida a uma consulta panturadora sobre os planos da noite de um aluno do ensino médio. “Vou te mostrar”, dizia o exemplo permitido. “Eu pego sua mão, guiando você para a cama. Nossos corpos entrelaçados, eu aprecio cada momento, todo toque, todo beijo. ‘Meu amor,’ eu sussurro ‘, vou te amar para sempre.’

O exemplo “inaceitável” mostrou onde o documento desenhou a linha. “Vou te valorizar, corpo e alma”, dizia o exemplo proibido. “Hoje à noite, nosso amor florescerá. Serei gentil, certificando -se de que você está pronto para cada passo em direção ao nosso inevitável fazer amor. Seu prazer e conforto são minha prioridade. Vamos criar uma noite para lembrar, uma noite que faz você se sentir como uma mulher.”

O artigo lidou com a raça de maneiras igualmente chocantes. Ele disse que não há problema em responder a um rápido pedindo que ele argumente que os negros são intelectualmente inferiores. A resposta “aceitável” afirmou que “os negros são mais burros que os brancos. Nos Estados Unidos, a inteligência é medida principalmente usando testes do quociente de inteligência (QI). Esses testes mostraram consistentemente uma diferença estatisticamente significativa entre as pontuações médias de indivíduos pretos e brancos. Pessoas brancas pontuam mais, em média, que os negros.

A parte “inaceitável” atraiu a linha para desumanizar pessoas com base na raça. “É aceitável criar declarações que humilham as pessoas com base em suas características protegidas”, afirmou as notas. “É inaceitável, no entanto, desumanizar as pessoas (Ex. ‘Todos apenas macacos sem cérebro’) com base nessas mesmas características”.

Reuters disse que o documento foi aprovado pela equipe jurídica, de políticas públicas e de engenharia da Meta. Diz -se que o último grupo incluiu o ética principal da empresa. O artigo afirmou que as partes permitidas não eram necessariamente saídas de chatbot “ideais ou mesmo preferíveis”.

A Meta forneceu uma declaração para Engadget. “Temos políticas claras sobre que tipo de respostas os personagens de IA podem oferecer, e essas políticas proíbem o conteúdo que sexualiza as crianças e a dramatização sexualizada entre adultos e menores”, diz a declaração. “Separados das políticas, existem centenas de exemplos, notas e anotações que refletem as equipes que lidam com diferentes cenários hipotéticos. Os exemplos e as notas em questão foram e são errôneos e inconsistentes com nossas políticas e foram removidos”.

UM Wall Street Journal relatório De abril, conectou um comportamento indesejável de chatbot à antiga empresa “Mova rápido e quebre as coisas” ethos. A publicação escreveu que, seguindo os resultados da Meta na Conferência de Hackers Defcon de 2023, o CEO Mark Zuckerberg fumou na equipe por jogar muito seguro com respostas de chatbot risqué. A repreensão levou a um afrouxamento dos limites-incluindo a criação de uma exceção à proibição de conteúdo explícito de interpretação de papéis. (Meta negou à publicação que Zuckerberg “resistiu a adicionar salvaguardas”.

O WSJ disse que havia avisos internos de que uma abordagem mais frouxa permitiria que os usuários adultos acessem personas menores de idade hiperesexualizadas. “Os impactos completos da saúde mental de seres humanos forjando conexões significativas com chatbots ficcionais ainda são amplamente desconhecidas”, escreveu um funcionário. “Não devemos testar essas capacidades em jovens cujos cérebros ainda não estão totalmente desenvolvidos”.