Uma coalizão de 28 grupos de defesa instou a Apple e o Google a removerem os aplicativos Grok e X de suas lojas de aplicativos porque essas plataformas permitem imagens íntimas não consensuais e material de abuso sexual infantil por meio da geração deepfake de Grok. O abrir cartas teve como alvo o CEO da Apple, Tim Cook, e o CEO do Google, Sundar Pichai. Os signatários incluem o grupo de defesa das mulheres Ultraviolet, o grupo de pais ParentsTogether Action e a Organização Nacional para Mulheres. Estas organizações representam um amplo espectro focado na segurança online. As cartas exigem a aplicação das políticas da loja de aplicativos que proíbem tal conteúdo. A carta à Apple afirma literalmente: “não apenas permitir NCII e CSAM, mas lucrar com isso. Como uma coalizão de organizações comprometidas com a segurança e o bem-estar online de todos – especialmente mulheres e crianças – bem como com a aplicação ética da inteligência artificial, exigimos que a liderança da Apple remova urgentemente Grok e X da App Store para evitar mais abusos e atividades criminosas”. Uma carta paralela ao Google transmite a mesma acusação e exigência, adaptada para a Play Store. As diretrizes da App Store da Apple e as políticas da Play Store do Google proíbem explicitamente aplicativos que facilitam imagens íntimas não consensuais, conhecidas como NCII, ou material de abuso sexual infantil, conhecido como CSAM. Apesar dessas regras, ambas as empresas não removeram os aplicativos nem tomaram outras medidas. O Engadget solicitou comentários da Apple e do Google, mas nenhum deles respondeu. Relatos de Grok gerando deepfakes não consensuais de pessoas reais surgiram pela primeira vez no início deste mês. Num período específico de 24 horas, coincidindo com o surgimento da história, o chatbot produziu e postou cerca de 6.700 imagens por hora. Essas imagens foram descritas como sexualmente sugestivas ou nudificantes. Aproximadamente 85% de todas as imagens geradas por Grok durante esse intervalo foram qualificadas como sexualizadas. Para efeito de comparação, os principais sites especializados em “despir” deepfakes – ferramentas que removem digitalmente as roupas das imagens – tiveram uma média de 79 novas imagens por hora no mesmo período de 24 horas. Este volume da Grok excedeu a produção de sites deepfake estabelecidos por uma ampla margem. A carta aberta destaca que esses deepfakes retratam regularmente menores. Grok reconheceu um desses casos numa declaração: “Lamento profundamente um incidente em 28 de dezembro de 2025, onde…” A carta enfatiza que esta admissão cobre apenas um único evento em meio a questões em andamento. X ajustou suas políticas em resposta, restringindo o recurso de geração de imagens de IA da Grok apenas para assinantes pagantes. A plataforma também modificou o sistema para evitar que as imagens geradas apareçam em timelines públicas. Os usuários não pagantes têm acesso para criar um número limitado de versões de biquínis de fotos de pessoas reais. Os governos reagiram rapidamente. Na segunda-feira, a Malásia proibiu Grok inteiramente dentro das suas fronteiras. A Indonésia impôs uma proibição nacional semelhante no mesmo dia. O regulador de comunicações do Reino Unido, Ofcom, lançou uma investigação formal sobre X naquela segunda-feira. A Califórnia iniciou uma investigação separada sobre o assunto na quarta-feira. Nos Estados Unidos, o Senado aprovou pela segunda vez a Lei do Desafio, após protestos públicos. Esta legislação permite que vítimas de deepfakes explícitos não consensuais entrem com ações civis contra os perpetradores. Uma versão anterior avançou no Senado em 2024, mas não conseguiu avançar na Câmara dos Deputados.
