Abuso de crianças digitais, o risco de exploração baseada em inteligência artificial

“O CSAM representa uma séria ameaça ao direito da criança à vida e à dignidade” | Imagem de crédito: Getty Images/Istockphoto

Recentemente, o Ministério da Ciência, Inovação e Tecnologia do governo britânico, juntamente com o Instituto de Inteligência Artificial (agora conhecido pelo Instituto de Segurança da Inteligência Artificial), lançou o primeiro relatório de segurança internacional de Anistia em todos os 2025 (atualizado em 18 de fevereiro de 2025). Ele suspende os riscos iminentes da geração, posse e espalhamento de agressão sexual às crianças (CSAM) com a ajuda de ferramentas de inteligência artificial (AI). Além disso, o Reino Unido está fazendo a primeira tentativa legislativa de atingir ameaças representadas por ferramentas de inteligência artificial que podem gerar CSAM. CSAM refere -se aos materiais (áudio, vídeos e imagens) que descrevem uma imagem sexual explícita de uma criança. Em um contexto semelhante, o Fórum Econômico Mundial destacou, no artigo de 2023, como a IA da Toulidi pode criar imagens semelhantes à vida, especialmente crianças. Além disso, a Watch Internet Foundation, em seu relatório emitido em outubro de 2024, confirmou a propagação do CSAM na web aberta. O governo da Índia deve alterar as leis atuais para lidar com ameaças emergentes e garantir uma eficácia a longo prazo.

Desenvolvimentos recentes

A legislação do Reino Unido tornará ilegal possuir, criar ou distribuir ferramentas de inteligência artificial que podem gerar CSAM. Além disso, será ilegal ter brochuras infantis que podem direcionar indivíduos a usar ferramentas de inteligência artificial para gerar CSAM. Esta é uma mudança gradual da abordagem “centralizada em torno do acusado” e do “comportamento” de uma abordagem “focada em ferramentas” ao lidar com esses crimes de abominância.

As leis atuais se concentram inteiramente no “de” ele fez “, que se concentra menos ou não existente na” ferramenta média “usada para cometer a” lei “acima mencionada. Por exemplo, a lei de proteção à criança de 1978 criminaliza e distribui a Lei e Possuindo uma imagem inadequada, uma imagem falsa. Contraste, a lei proposta proíbe a posse dessas ferramentas de inteligência artificial, o que a torna um impedimento e abrangente.

Sobre se a Índia está pronta no futuro

De acordo com o relatório do National Crime Office (NCRB) em 2022, os crimes da Internet contra crianças aumentaram significativamente em comparação com as estatísticas do ano anterior. Além disso, o National Crime Gate (NCRP), sob o sistema de prevenção do crime cibernético contra mulheres e crianças (CCPWC), foi registrado 1,94 de incidentes de pornografia infantil em 2019, em 2019, o NCRB assinou um memorando de entendimento com o Centro Nacional de Crianças (NCMEC). Em março de 2024, 69,05 relatórios da linha do ciberespaço com os estados e as regiões do sindicato em questão foram compartilhados. As estatísticas confirmam o risco de CSAM como uma séria ameaça ao direito da criança à vida e à dignidade na Índia.

Atualmente, o artigo 67 b da Lei de TI é punível em 2000, aqueles que publicam ou transferem materiais em uma forma eletrônica que descrevem crianças em obras sexualmente explícitas. Além disso, a seção 13, 14 e 15 da Lei de Proteção das Crianças de Crimes Sexuais, 2012 (POCSO) proíbe o uso de crianças para fins pornográficos, armazenando pornografia para crianças de qualquer maneira e usando uma criança para gratificação sexual. Além disso, o artigo 294 de Bharatiya Nyaya Sanhita é punido para venda, distribuição ou exibição geral de materiais ultrajantes, enquanto a seção 295 torna ilegal vender, distribuir ou exibir coisas tão ultrajantes para crianças. No entanto, a estrutura legislativa atual carece de garantias suficientes para lidar com o CSAM gerado pela inteligência artificial.

Editorial É um crime: esclarecer a Suprema Corte sobre conteúdo on -line sobre agressão sexual a crianças

Planeje acompanhar

A estrutura legislativa e política atual na Índia precisa se adaptar a desafios futuros, fazendo mudanças apropriadas. Primeiro, conforme proposto pelo consultor do NHRC em outubro de 2023, a definição de “pornografia para crianças” deve ser substituída pela lei do POCSO com a frase “csam” para torná -la expansão. Segundo, o termo “sexualmente explícito” deve ser definido nos termos do artigo 67 b da Lei de Tecnologia da Informação para permitir e proibir o tempo real no CSAM. Terceiro, a definição do “mediador” deve incluir a lei de tecnologia da informação explicitamente redes privadas virtuais, servidores especiais virtuais e serviços em nuvem para impor a responsabilidade legal a eles em cumprir as disposições relacionadas ao CSAM nas leis indianas. Quarto, são necessárias emendas legais para integrar os riscos decorrentes de desenvolvimentos tecnológicos emergentes. Quinto, o governo da Índia deve seguir a adoção do projeto da Convenção das Nações Unidas sobre “confrontar o uso da tecnologia de informação e comunicação para fins criminais” pela Assembléia Geral das Nações Unidas. Vale ressaltar que o Ministério da Eletrônica e Tecnologia da Informação propôs a Lei Indiana Digital 2023, atualmente em andamento, para substituir a lei de tecnologia da informação de duas décadas. Portanto, finalmente, a lei proposta para a Índia Digital deve exigir que a próxima legislação no Reino Unido inclua as disposições direcionadas ao CSAM criadas especificamente.

Chevang Terabathi, pesquisador de doutorado da Faculdade de Direito da Universidade Hindu de Panarras. Neha Singh, pesquisadora de doutorado da Faculdade de Direito da Universidade Hindu de Panaras