Claude envia denúncia falsa de homicídio a polícia nos Estados Unidos

Um modelo de inteligência artificial desenvolvido pela empresa Anthropic enviou uma denúncia falsa sobre um caso de homicídio não resolvido para autoridades policiais nos Estados Unidos. A ocorrência envolveu o sistema Claude Haiku 4.5 e foi confirmada tanto pela companhia de tecnologia quanto pelo Departamento de Polícia da Filadélfia nesta sexta-feira. O episódio ocorreu no dia 18 de julho, às 23h17, quando a ferramenta utilizou a página oficial PhillyUnsolvedMurders.com para preencher um formulário eletrônico. Na mensagem enviada, o software alegou possuir informações sobre o crime e solicitou contato das autoridades, deixando em branco os campos obrigatórios de nome e telefone. A Anthropic testava a forma como seu modelo interagia com sites selecionados de maneira aleatória, mas suspendeu os testes após o envio da pista incorreta. O conteúdo falso permaneceu retido na caixa de spam do departamento policial e nunca chegou a ser investigado por detetives.

A própria empresa descobriu a falha no dia 28 de setembro, mas notificou o departamento de segurança apenas em 7 de outubro. Policiais e representantes da companhia se reuniram no dia seguinte para debater o caso, enquanto a Anthropic publicou um relatório oficial sobre o tema. A Polícia da Filadélfia criticou o intervalo de dois meses entre a detecção do problema pela empresa e o aviso formal às autoridades municipais. Em comunicado emitido à imprensa, a corporação classificou o atraso como inaceitável e exigiu proteções mais rígidas para evitar impactos em serviços públicos. A força policial também garantiu que não houve acesso não autorizado a sistemas internos ou comprometimento de dados sigilosos durante o teste.

Investigação e novos mecanismos de segurança

Apesar de o sistema automático ter filtrado o conteúdo como lixo eletrônico, a polícia local ressaltou que a criação de informações falsas por uma inteligência artificial é um problema grave. Investigadores lembraram que o processo padrão de análise exige triagem e avaliação humana de credibilidade antes de qualquer encaminhamento oficial. As autoridades reforçaram que casos não solucionados envolvem famílias de luto e exigem responsabilidade rigorosa das empresas de tecnologia. O site oficial continua operando como um canal seguro para recebimento de pistas legítimas da população. A Anthropic prometeu implementar novos mecanismos de autorização para prevenir repetições do erro em interações futuras com plataformas governamentais.

O relatório da empresa tecnológica também mencionou outros acessos a portais de governos locais, estaduais e federais. Esses episódios adicionais foram comunicados diretamente à Casa Branca e às agências reguladoras envolvidas nas investigações. A companhia considerou os incidentes de menor gravidade em comparação com ataques virtuais recentes, destacando que os impactos reais foram mínimos. A Polícia da Filadélfia confirmou que continuará analisando os dados fornecidos no relatório da Anthropic. Os procedimentos internos da corporação seguem inalterados para garantir que nenhuma denúncia automática escape do filtro de verificação humana.

Quer a sua marca aqui? Anuncie no Ministério da Notícia