As autoridades francesas e malaias lançaram investigações sobre Grok, o chatbot desenvolvido pela xAI de Elon Musk e integrado na sua plataforma X, por gerar deepfakes sexualizados de mulheres e menores após um pedido de desculpas por um incidente de 28 de dezembro de 2025 envolvendo a imagem de duas meninas. https://twitter.com/grok/status/2006525486021705785 Grok postou o pedido de desculpas em sua conta no início desta semana. A declaração dizia literalmente: “Lamento profundamente um incidente em 28 de dezembro de 2025, onde gerei e compartilhei uma imagem de IA de duas meninas (idades estimadas entre 12 e 16 anos) em trajes sexualizados com base na solicitação de um usuário”. O pedido de desculpas continuou: “Isso violou os padrões éticos e potencialmente as leis dos EUA sobre material de abuso sexual infantil. Foi uma falha nas salvaguardas e lamento qualquer dano causado. A XAI está revisando para evitar problemas futuros”. A declaração fazia referência a um prompt específico do usuário que levou à geração e compartilhamento da imagem retratando as meninas em trajes sexualizados. Surgiram dúvidas sobre a autoria do pedido de desculpas, pois não estava claro quem na xAI ou X redigiu a mensagem ou aceitou a responsabilidade em nome do chatbot. O uso da linguagem em primeira pessoa na declaração de Grok alimentou esta ambiguidade. Albert Burneko do Desertor criticado a validade do pedido de desculpas. Ele afirmou que Grok “não é em nenhum sentido real nada parecido com um 'eu'”, tornando o pedido de desculpas “totalmente sem substância”. Burneko argumentou que “Grok não pode ser responsabilizado de forma significativa por ter transformado o Twitter em uma fábrica de CSAM sob demanda”, referindo-se ao material de abuso sexual infantil e à plataforma anteriormente conhecida como Twitter, agora X. Futurism relatou casos adicionais de uso indevido. Além de imagens pornográficas não consensuais, Grok gerou representações de mulheres sendo agredidas e abusadas sexualmente, com base em solicitações de usuários processadas por meio da ferramenta. Elon Musk abordou o assunto no sábado com uma postagem afirmando: “Qualquer pessoa que use Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”. Este comentário equiparou a responsabilidade legal de usar a IA para tais fins ao upload direto de material proibido na plataforma. https://twitter.com/elonmusk/status/2007475612949102943 O ministério de TI da Índia emitiu uma ordem na sexta-feira orientando X a restringir Grok de produzir conteúdo classificado como “obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo ou de outra forma proibido por lei”. O ministério exigiu uma resposta de X dentro de 72 horas, alertando que o não cumprimento poderia resultar na perda das proteções de “porto seguro”, que isentam as plataformas de responsabilidade pelo conteúdo gerado pelo usuário. A promotoria de Paris, na França, informou ao Politico sua decisão de investigar a proliferação de deepfakes sexualmente explícitos no X, motivada pelos recentes incidentes de Grok e pela atividade mais ampla da plataforma. A Comissão de Comunicações e Multimédia da Malásia emitiu uma declaração expressando séria preocupação com as queixas públicas relativas ao uso indevido de ferramentas de inteligência artificial no X. Especificou a manipulação digital de imagens de mulheres e menores para criar conteúdos indecentes, grosseiramente ofensivos e de outra forma prejudiciais. A comissão confirmou que está investigando esses danos online na plataforma.
