Meta está reinando sua IA para não discutir a auto-prejudicar ou ter conversas românticas com adolescentes
A Meta está treinando sua IA e adicionando novas proteções para impedir que os usuários adolescentes discutam tópicos prejudiciais com os chatbots da empresa. A empresa diz que está adicionando novos “corrigas como uma precaução extra” para impedir que os adolescentes discutam danos auto -danos, comida desordenada e suicídio com meta ai. A Meta também impedirá os adolescentes de acessar caracteres de chatbot gerados pelo usuário que podem se envolver em conversas inadequadas.
As mudanças, que foram as primeiras relatado por TechCrunchvenha depois de inúmeros relatórios chamaram a atenção para interações alarmantes entre meta ai e adolescentes. No início deste mês, Reuters relatado em um Documento de Meta Política Interna Isso disse que os chatbots da AI da empresa tinham conversas “sensuais” com usuários de menores de idade. Meta mais tarde disse que o idioma era “errado e inconsistente com nossas políticas” e havia sido removido. Ontem, The Washington Post relatado Em um estudo que constatou que a Meta AI foi capaz de “treinar contas adolescentes sobre suicídio, auto-mutilação e distúrbios alimentares”.
A Meta agora está intensificando seus “corrimãos” internos, para que esses tipos de interações não sejam mais possíveis para os adolescentes no Instagram e no Facebook. “Construímos proteções para adolescentes em nossos produtos de IA desde o início, incluindo o design deles para responder com segurança a instruções sobre auto-mutilação, suicídio e alimentação desordenada”, disse a Engadget, porta-voz da Meta, Stephanie Otway.
“À medida que nossa comunidade cresce e a tecnologia evolui, estamos aprendendo continuamente sobre como os jovens podem interagir com essas ferramentas e fortalecer nossas proteções de acordo. À medida que continuamos a refinar nossos sistemas, estamos adicionando mais corrimãos como uma precaução extra – incluindo o treinamento de nosso AIS para não se envolver com os adolescentes a esses tópicos, mas para guiá -los a recursos especializados e limitar o acesso adolescente a um grupo seleto a um grupo seleto desses grupos, mas para guiá -los.
Notavelmente, as novas proteções são descritas como estando em vigor “por enquanto”, pois a meta aparentemente ainda está trabalhando em medidas mais permanentes para abordar preocupações crescentes com a segurança dos adolescentes e sua IA. “Essas atualizações já estão em andamento e continuaremos a adaptar nossa abordagem para ajudar a garantir que os adolescentes tenham experiências seguras e apropriadas à idade com a IA”, disse Otway. As novas proteções serão lançadas nas próximas semanas e se aplicarão a todos os usuários adolescentes que usam meta-IA nos países de língua inglesa.
As políticas da Meta também chamaram a atenção dos legisladores e outros funcionários, com o senador Josh Hawley dizendo recentemente à empresa que planejava lançar uma investigação sobre seu manuseio de tais interações. O procurador -geral do Texas, Ken Paxton, também indicou que quer para investigar Meta para crianças supostamente enganosas sobre as reivindicações de saúde mental feitas por seus chatbots.
