Os investigadores dos EUA estão implantando inteligência artificial para identificar material de abuso sexual infantil criado por IA generativa. O Centro de Crimes Cibernéticos do Departamento de Segurança Interna está liderando esse esforço para diferenciar imagens sintéticas das representações de vítimas reais. A iniciativa aborda um aumento documentado em conteúdo abusivo gerado pela IA. A Internet Watch Foundation (IWF) relatou um aumento significativo nesse tipo de imagem que aparece nos fóruns da Web Dark. Esse material geralmente consiste em fose de profundidade fotorrealista, que pode incorporar as semelhanças de indivíduos reais ou vítimas anteriores. A origem sintética dessas imagens apresenta desafios substanciais para a aplicação da lei, complicando os esforços para estabelecer a criminalidade. Em resposta, o DHS Cyber Crimes Center, o principal órgão investigativo dos EUA para exploração infantil, está experimentando ferramentas de detecção movidas a IA. Esses métodos avançados estão sendo adotados para neutralizar o uso indevido da tecnologia generativa de IA nesse contexto. O objetivo é melhorar a identificação do conteúdo gerado por computador, aumentando assim os processos de intervenção e investigação em casos de exploração infantil.
