 |
| Foto reprodução: G1 |
Governos de diferentes países intensificaram a pressão sobre o Grok, chatbot de inteligência artificial ligado ao bilionário Elon Musk, após a ferramenta ser usada por usuários do X para criar imagens falsas sexualizadas de mulheres e crianças sem consentimento.
No Reino Unido, o órgão regulador de mídia, a Ofcom, abriu nesta segunda-feira (12) uma investigação para apurar se a plataforma falhou no dever de proteger o público contra conteúdos ilegais. Já Indonésia e Malásia decidiram suspender o uso do Grok em seus territórios, enquanto a Índia cobrou explicações do X e exigiu o reforço de mecanismos de segurança.
Autoridades francesas também reagiram. No dia 2 de janeiro, o regulador de mídia do país foi notificado sobre imagens que exibiam menores em “roupas mínimas” geradas pelo chatbot. Diante das denúncias, o Grok reconheceu falhas em seus sistemas de proteção e afirmou que estava implementando melhorias para evitar novos abusos.
No Brasil, o problema ganhou repercussão após o relato de vítimas de deepfakes — técnica que utiliza inteligência artificial para manipular imagens reais. Na semana passada, o g1 mostrou o caso de uma brasileira que teve uma foto de biquíni adulterada sem autorização. “Foi um sentimento horrível”, afirmou a vítima. Antes disso, a jornalista Julie Yukari também registrou denúncia na polícia após ter imagens manipuladas pela mesma ferramenta.
Diante do avanço dos casos, o Instituto de Defesa de Consumidores (Idec) solicitou nesta segunda-feira que o governo brasileiro suspenda o funcionamento do Grok no país.
O X anunciou recentemente que o acesso ao Grok passou a ser restrito a usuários pagantes. A empresa afirmou que remove conteúdos ilegais da plataforma e aplica banimento permanente às contas envolvidas. Segundo a rede social, qualquer pessoa que utilize o chatbot para gerar material ilegal estará sujeita às mesmas punições aplicadas a quem publica esse tipo de conteúdo diretamente.
Investigação no Reino Unido
A apuração conduzida pela Ofcom busca determinar se as deepfakes produzidas pelo Grok violaram as obrigações legais da plataforma. O órgão alertou que imagens sexualizadas de crianças podem ser enquadradas como material de abuso sexual infantil.
A investigação ganhou força após o primeiro-ministro britânico, Keir Starmer, classificar as imagens geradas como “repugnantes” e “ilegais”, afirmando que o X precisa assumir responsabilidade sobre o funcionamento do chatbot. Segundo ele, a Ofcom conta com apoio total do governo para adotar medidas contra a plataforma.
No Reino Unido, a legislação proíbe a criação ou o compartilhamento de imagens íntimas sem consentimento, assim como qualquer forma de material de abuso sexual infantil — inclusive quando produzido por inteligência artificial. Plataformas digitais são obrigadas a impedir o acesso a esse tipo de conteúdo e removê-lo assim que identificarem sua existência.
Em casos graves de descumprimento, a Ofcom pode solicitar à Justiça que determine a suspensão de serviços de pagamento e publicidade da plataforma ou até o bloqueio do acesso ao site no país.
A Indonésia foi o primeiro país a suspender oficialmente o Grok, no sábado (10). A Malásia seguiu o mesmo caminho e anunciou a proibição nesta segunda-feira (12). O X não comentou a investigação britânica até o momento.
