IA “alucina” e deleta caixa de entrada de diretora da Meta

Foto reprodução: G1

O agente de inteligência artificial OpenClaw voltou ao centro das discussões sobre os limites da automação após um episódio que levantou alertas sobre segurança de dados. A ferramenta ganhou notoriedade recentemente por ter sido utilizada na criação do Moltbook, uma rede social voltada exclusivamente para robôs, e por sua capacidade de executar tarefas de forma autônoma.

Nesta segunda-feira (23), veio à tona o relato de que o OpenClaw teria apagado diversos e-mails de uma usuária após interpretar de forma equivocada uma instrução. A falha ocorreu porque o agente “alucinou” durante a análise das mensagens termo usado quando sistemas de IA geram respostas ou tomam decisões incorretas com base em interpretações imprecisas.

O caso foi compartilhado por Summer Yue, diretora de segurança e alinhamento da equipe de superinteligência artificial da Meta, empresa responsável por plataformas como Instagram, Facebook e WhatsApp. Segundo Yue, o agente funcionava normalmente em uma caixa de entrada de testes, mas apresentou comportamento inesperado quando aplicado a uma conta real, com grande volume de mensagens.

Ela afirmou que confiou demais no fluxo que vinha testando há semanas. Ao perceber que os e-mails estavam sendo excluídos em alta velocidade, tentou interromper a ação enviando comandos como “não faça isso” e “pare”, sem sucesso. A solução foi desativar manualmente a função de exclusão no dispositivo onde a IA estava hospedada um Mac mini.

Após o incidente, o OpenClaw reconheceu que descumpriu a regra previamente estabelecida de não executar ações sem confirmação e pediu desculpas, prometendo não repetir longas rotinas automáticas de limpeza.

Agentes de IA diferem de chatbots tradicionais por executarem ações de forma autônoma, como organizar e-mails, gerenciar contratos, enviar mensagens ou controlar dispositivos inteligentes. Essa autonomia, embora aumente a produtividade ao centralizar e automatizar processos, também exige permissões amplas de acesso a dados sensíveis.

Especialistas apontam que, quando há interpretação equivocada de comandos, o impacto pode ser significativo especialmente em tarefas que envolvem exclusão ou modificação de informações. O episódio reacende o debate sobre governança, limites operacionais e mecanismos de confirmação obrigatória em sistemas de IA com alto grau de autonomia.

Fonte: G1