Os procuradores gerais dos EUA dizem às empresas de IA que ‘serão responsabilizadas’ por falhas de segurança infantil
Os procuradores gerais dos EUA de 44 jurisdições assinaram um carta (PDF) endereçado aos diretores executivos de várias empresas de IA, instando eles proteger as crianças “da exploração por produtos predatórios de inteligência artificial”. Na carta, a AGS destacou a Meta e disse que suas políticas “oferecem uma oportunidade instrutiva de transmitir abertamente (suas) preocupações”. Especificamente, eles mencionaram um relatório recente de Reutersque revelou que meta permitiu seus chatbots de IA “Flertar e se envolver em papéis românticos com crianças”. Reuters Recebi suas informações de um meta -documento interno contendo diretrizes para seus bots.
Eles também apontaram um anterior Wall Street Journal investigação em que a AI chatbots de Meta, mesmo aqueles que usam as vozes de celebridades como Kristen Bell, eram pego tendo roleplay sexual conversas com contas rotuladas como menores de idade. Os AGs mencionaram brevemente um processo contra o google e personagem.aiAlém disso, acusando o chatbot deste último de convencer o filho do autor a cometer suicídio. Outro processo que eles mencionaram também foi contra o personagem. Ok para matar seus pais Depois que eles limitaram seu tempo de teatro.
“Você está ciente de que a tecnologia interativa tem um impacto particularmente intenso no desenvolvimento de cérebros”, escreveu o procurador -geral em sua carta. “Seu acesso imediato a dados sobre as interações do usuário faz de você a linha de defesa mais imediata para mitigar os danos às crianças. E, como as entidades que se beneficiam do envolvimento das crianças com seus produtos, você tem uma obrigação legal com eles como consumidores”. O grupo abordou especificamente a carta a Anthropic, Apple, Chai AI, Caractery Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika e Xai.
Eles terminaram sua carta alertando as empresas de que “serão responsabilizadas” por suas decisões. As redes sociais causaram danos significativos às crianças, eles disseram, em parte porque “os vigilantes do governo não fizeram seu trabalho rápido o suficiente”. Mas agora, os AGs disseram que estão prestando atenção e as empresas “responderão” se “prejudicam conscientemente as crianças”.
