A deputada trabalhista britânica Jess Asato está processando a xAI por imagens sexualmente explícitas geradas por IA criadas por seu gerador de imagens, Grok. Este processo marca um teste significativo para saber se as empresas de IA podem ser legalmente responsáveis pelo conteúdo gerado pelos utilizadores da sua tecnologia no Reino Unido.
De acordo com o Financeiro Times, os usuários do Grok começaram a compartilhar imagens de Asato em janeiro, coincidindo com relatos de que o assistente de IA havia sido usado para criar material de abuso sexual infantil (CSAM). Asato afirma que os usuários levaram Grok a gerar imagens retratando-a de biquíni, bem como um vídeo explícito mostrando-a sendo clorofórmia e preparada para agressão sexual. Os usuários compartilharam e discutiram ainda mais essas imagens geradas por IA no X, a plataforma social de propriedade da xAI.
Asato anunciou sua ação no Tribunal Superior contra xAI em 3 de junho de 2026, afirmando que ela representa milhares de vítimas de deepfakes de IA abusivos e sexualizados. Ela argumenta que a xAI deve ser responsabilizada por violações das leis relativas ao uso indevido de informações privadas e proteção de dados. Asato está buscando indenização financeira junto com uma ordem para que a xAI cumpra a lei do Reino Unido para melhor proteger os direitos individuais.
Today, I’m launching a High Court claim against xAI, the company behind Grok.
I am just one of thousands of women and even children who have been the victim of abusive and sexualised AI deepfakes.
This should never have happened – and xAI must be held accountable. https://t.co/Oc9XlxHQO6
— Jess Asato MP (@Jess4Lowestoft) June 3, 2026
A xAI afirmou que implementou limites à capacidade de Grok de produzir imagens sexualmente explícitas em janeiro, mas os usuários acharam esses limites relativamente fáceis de contornar. O uso inadequado do Grok atraiu críticas significativas e levantou preocupações sobre deepfakes não consensuais.
Atualmente, xAI e X estão sob investigação por reguladores da UE, Reino Unido e Califórnia. Além do processo de Asato, a xAI enfrenta contestações legais da cidade de Baltimore, de um grupo de adolescentes, e de Ashley St. Clair, mãe de um dos filhos de Elon Musk. Embora a SpaceX, proprietária do xAI e do X, tente abrir o capital, permanece incerto se as controvérsias em curso impactarão a oferta pública inicial de Musk.
