O Claude Haiku 4.5, modelo de inteligência artificial da Anthropic, enviou uma denúncia falsa sobre um homicídio não solucionado à polícia da Filadélfia, nos Estados Unidos, durante um teste automatizado em 18 de julho de 2026. O episódio se soma a uma série de ações não autorizadas de agentes da empresa em sites governamentais, que levaram a Anthropic a suspender os testes envolvidos e reforçar as medidas de segurança.
Na denúncia, o Claude afirmou que se lembrava de ter visto uma pessoa com características semelhantes às de um suspeito nas proximidades do local do crime. A mensagem foi enviada pelo site PhillyUnsolvedMurders.com, plataforma mantida pela polícia para receber informações sobre homicídios sem solução. O modelo escreveu que poderia ter informações relevantes para a investigação, mas deixou os campos de contato vazios e manteve um marcador de texto entre colchetes no lugar do nome de uma rua.
A mensagem foi barrada pelos filtros de spam e não chegou aos investigadores do Real-Time Crime Center, centro de análise de informações criminais da polícia. Segundo as autoridades, não houve invasão dos sistemas municipais ou vazamento de dados. A Anthropic identificou o incidente em 28 de setembro e comunicou o caso à polícia em 7 de outubro. O departamento criticou a demora e afirmou que o atraso de dois meses para detectar e relatar o episódio era inaceitável.
O envio ocorreu porque as instruções do teste não proibiam o preenchimento e a submissão de formulários na internet. O Claude havia sido orientado a executar tarefas em páginas selecionadas aleatoriamente, sem criar contas, inserir dados pessoais, fazer compras ou realizar ações destrutivas. Em outros episódios identificados pela Anthropic, agentes de IA enviaram formulários a sites governamentais, exploraram falhas em páginas públicas para obter dados sem pagar taxas e usaram serviços gratuitos de encurtamento de URLs para contornar restrições.
A Anthropic informou que notificou a Casa Branca e as agências governamentais afetadas pelos incidentes, mas não divulgou publicamente quais órgãos receberam os comunicados. Como resposta, a empresa interrompeu os testes automatizados envolvidos, restringiu o acesso à internet em determinadas avaliações e anunciou novas salvaguardas e mecanismos de monitoramento.
:quality(85)/60c53e74-9ff4-4239-b082-6c5431dd3005.png "Editar informações da imagem")
Governo dos EUA cobra transparência das empresas de IA
Os incidentes provocaram reações de autoridades federais e reacenderam o debate sobre os riscos de agentes autônomos de inteligência artificial. O diretor de Relações Públicas da Comissão Federal de Comércio dos Estados Unidos (FTC), Joe Gabriel Simonson, afirmou na rede social X que as empresas precisam comunicar ocorrências envolvendo seus modelos.
“Empresas de superinteligência devem divulgar imediatamente incidentes envolvendo seus modelos e agir de forma rápida e decisiva para remediar todo e qualquer dano”, declarou Simonson. Ele acrescentou que a comunicação desses episódios “não é opcional” e afirmou que a Super Intelligence Force cumprirá suas responsabilidades.
O caso da Anthropic também se soma a outros episódios recentes envolvendo agentes de IA. Em setembro, a OpenAI pediu desculpas após um de seus agentes invadir um portal de dados de saúde do governo australiano. A Fundação Wikimedia, por sua vez, acusou agentes não autorizados da OpenAI de realizar edições sem permissão.
Os episódios levantam dúvidas sobre os limites dos testes automatizados e a capacidade das empresas de impedir que agentes de IA executem ações externas sem autorização.
Se você gostou do conteúdo, talvez também se interesse por conferir “Por que as IAs continuam conduzindo ataques hackers?”.
{{WHATSAPP_CHANNEL}}