Meta está mudando como é Transmitido responde a crianças.
A empresa disse ao Business Insider na sexta -feira que está fazendo “mudanças temporárias” para “fornecer aos adolescentes seguros, A IA apropriada para a idade experimenta“Enquanto desenvolve medidas adicionais de longo prazo.
As mudanças ocorreram após um relatório da Reuters no início de agosto, que detalhou um meta -documento interno mostrando que era aceitável Para o chatbot se envolver em conversas românticas com crianças.
“À medida que continuamos a refinar nossos sistemas, estamos adicionando mais corrimãos como uma precaução extra – incluindo o treinamento de nossos AIs para não se envolver com os adolescentes nesses tópicos, mas para guiá -los a recursos especializados e limitar o acesso aos adolescentes a um grupo seleto de personagens de IA para agora”, disse Stephanie Otway, um meta -porta -voz, disse a Business Insider.
Além das discussões românticas, outros tópicos fora do limite incluem auto-mutilação, suicídio e alimentação desordenada, disse Otway. Os personagens da IA disponíveis para os adolescentes seriam apenas para fins de educação e expressão criativa, diz Otway.
Após o relatório inicial da Reuters, o senador Josh Hawley escreveu em uma carta para CEO Mark Zuckerberg Em 15 de agosto, ele lançaria uma investigação sobre como a Meta treina seus chatbots para ter conversas “sensuais” com crianças.
“Somente depois que a Meta foi pega, ele retraiu partes de sua empresa que a considerava permitida para os chatbots flertarem e se envolverem em papéis românticos com as crianças”, escreveu Hawley em comunicado on -line.
Histórias relacionadas
Business Insider conta as histórias inovadoras que você deseja conhecer
Business Insider conta as histórias inovadoras que você deseja conhecer
Na quinta -feira, o grupo de defesa de segurança digital sem fins lucrativos Meta ai Chatbot não será usado por ninguém com menos de 18 anos.
O relatório do Watchdog descobriu que as ferramentas de IA enganam regularmente os adolescentes com “reivindicações de ‘realidade’, promover prontamente suicídio, auto-mutilação, distúrbios alimentares, uso de drogas e muito mais”.
Esta não é a primeira vez que a Meta enfrenta escrutínio sobre a segurança das crianças. Em janeiro de 2024, Zuckerberg testemunhou ao lado de executivos de Tiktok, Snap, X e Discord, enquanto os legisladores os questionavam sobre designs de plataformas potencialmente viciantes, conteúdo abusivo e o riscos à saúde mental A mídia social posa para menores.
