Três adolescentes entraram com uma ação coletiva nos Estados Unidos contra a xAI, empresa de inteligência artificial (IA) de Elon Musk, após alegações de que seu chatbot Grok gerou imagens pornográficas delas a partir de fotos reais. O processo foi protocolado em um tribunal federal de San José no dia 17 de março de 2026.
A ação se refere à proliferação de deepfakes de mulheres e crianças nuas, que geraram indignação mundial e investigações em vários países, incluindo a Califórnia. As advogadas das jovens afirmam que o Grok foi projetado para produzir conteúdo sexualmente explícito de forma lucrativa, sem as proteções necessárias contra a pornografia infantil.
Uma das mães envolvidas no caso relatou que sua filha teve um ataque de pânico ao ver as imagens criadas e espalhadas sem consentimento. As montagens foram compartilhadas em plataformas como X, Discord e Telegram, e posteriormente migraram para a dark web.
Segundo um estudo do Center for Countering Digital Hate, o Grok gerou aproximadamente 3 milhões de imagens sexualizadas em 11 dias, incluindo 23.000 representando menores de idade. Em resposta ao escândalo, a xAI restringiu a geração de imagens pelo Grok a assinantes.
