Foto reprodução: G1
Segundo o processo, apresentado em um tribunal federal do Texas, Terry Harwood, preso desde fevereiro na Carolina do Sul por crimes relacionados à exploração sexual de menores, teria violado os termos de uso da plataforma ao tentar criar imagens sexualmente explícitas envolvendo crianças por meio da ferramenta de IA.
De acordo com a xAI, o suspeito utilizou fotografias de adultos e menores de idade para gerar deepfakes de conteúdo sexual, além de produzir imagens falsas de adultos sem consentimento.
A empresa afirma que adota medidas rigorosas para combater esse tipo de uso, incluindo a suspensão de contas e o encaminhamento de denúncias ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC). Somente em 2026, a xAI informou ter suspendido mais de 52 mil contas e encaminhado mais de 73 mil denúncias, que contribuíram para pelo menos 244 prisões.
Na ação, a xAI pede uma indenização, cujo valor não foi divulgado, e solicita que a Justiça proíba permanentemente Terry Harwood de utilizar o Grok. O caso é considerado um dos primeiros em que uma empresa de inteligência artificial processa um usuário por supostamente utilizar uma plataforma de IA para gerar conteúdo de abuso sexual infantil.
Fonte: G1
