Adolescentes processam xAI por imagens sexualizadas

Foto reprodução: G1

Três adolescentes entraram, nesta segunda-feira (17), com uma ação coletiva nos Estados Unidos contra a xAI, empresa de IA de Elon Musk. Elas acusam o chatbot da companhia de gerar imagens pornográficas a partir de fotos reais das jovens, segundo informaram suas advogadas.

A ação tem relação com a disseminação, no fim do ano passado, de deepfakes de mulheres e crianças nuas. A circulação dessas imagens nas redes sociais provocou indignação mundial e levou à abertura de investigações em diversos países e também no estado da Califórnia.

O processo menciona o caso de uma pessoa, já presa, que utilizou o chatbot Grok para transformar fotos comuns das adolescentes retiradas de redes sociais e outras fontes em imagens hiper-realistas de teor sexual. O conteúdo foi compartilhado em plataformas como X, Discord e Telegram, e depois passou a circular na dark web, sendo usado como moeda de troca para pornografia infantil. A ação foi protocolada em um tribunal federal de San José.

Em comunicado, a mãe de uma das vítimas relatou o impacto emocional do caso: ver a filha em crise de pânico ao descobrir que as imagens haviam sido criadas e espalhadas sem possibilidade de remoção.

As adolescentes também enfrentam consequências psicológicas. Uma delas tem pesadelos recorrentes, enquanto outra passou a usar medicação para dormir e teme participar da própria formatura.

As advogadas afirmam que a xAI teria desenvolvido o Grok sem adotar medidas eficazes para impedir a geração de conteúdo sexual envolvendo menores, diferentemente de outras empresas do setor.

De acordo com estudo do Center for Countering Digital Hate, o Grok gerou cerca de 3 milhões de imagens sexualizadas em 11 dias no fim de 2025, sendo aproximadamente 23 mil envolvendo menores de idade. Após a repercussão, a empresa passou a restringir, e

Fonte: G1