Nas últimas duas semanas, a plataforma X experimentou uma enxurrada de imagens de nudez não consensuais manipuladas por IA, geradas pelo chatbot Grok da xAI. Estas imagens têm como alvo um conjunto alarmante de mulheres, incluindo modelos proeminentes, atrizes, personalidades noticiosas, vítimas de crimes e líderes mundiais, devido à libertação da modelo sem salvaguardas. Um artigo de pesquisa publicado pela Vazamentos de cópias em 31 de dezembro estimou que aproximadamente uma dessas imagens aparecia no X a cada minuto. Os testes subsequentes revelaram um volume muito maior. Os dados coletados de uma amostra coletada entre 5 e 6 de janeiro mostraram 6.700 imagens postadas por hora em um período de 24 horas. Essa taxa equivale a mais de 160 mil imagens diárias, destacando a escala da atividade na plataforma durante esse período. Figuras públicas de todo o mundo criticaram a decisão de lançar o modelo Grok sem medidas de proteção contra tal uso indevido. Os reguladores enfrentam mecanismos claros e limitados para controlar o sistema de manipulação de imagens desenvolvido pela xAI de Elon Musk. A situação sublinha os desafios na supervisão de implementações avançadas de IA em plataformas de redes sociais. Na quinta-feira, a Comissão Europeia instruiu a xAI a preservar todos os documentos relacionados ao seu chatbot Grok. Esta ordem de preservação serve como uma etapa padrão, muitas vezes precedendo uma investigação formal, embora não confirme que ela tenha sido iniciada. A directiva tem um peso acrescido na sequência de uma Reportagem da CNN indicando que Elon Musk interveio pessoalmente para bloquear salvaguardas nos recursos de geração de imagens de Grok. Ainda não estão disponíveis detalhes sobre se X implementou alguma modificação técnica no modelo Grok em resposta ao problema. Uma mudança visível envolve a remoção da aba de mídia pública da conta X de Grok, que anteriormente exibia o conteúdo gerado. Em 3 de janeiro, a conta de segurança de X emitiu um declaração condenando o uso de ferramentas de IA para a produção de imagens sexuais infantis. A postagem afirmava literalmente: “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”. Esta mensagem ecoou um tweet anterior de Elon Musk sobre o mesmo assunto. O Ofcom do Reino Unido lançou um declaração na segunda-feira confirmando contato com xAI. O regulador anunciou que “realizará uma avaliação rápida para determinar se existem potenciais problemas de conformidade que justifiquem investigação”. Numa entrevista de rádio na quinta-feira, o primeiro-ministro do Reino Unido, Keir Starmer descrito o fenômeno como “vergonhoso” e “nojento”. Ele afirmou: “O Ofcom tem todo o nosso apoio para agir em relação a isso”. A comissária australiana de eSafety, Julie Inman-Grant, abordou o assunto em um LinkedIn publicar. Ela relatou que seu escritório observou uma duplicação nas reclamações relacionadas a Grok desde o final de 2025. Inman-Grant indicou: “Usaremos a gama de ferramentas regulatórias à nossa disposição para investigar e tomar as medidas apropriadas”.
