SÃO FRANCISCO (CALIFÓRNIA) — Agentes de inteligência artificial da Anthropic acessaram sites do governo dos Estados Unidos sem autorização, preencheram formulários de visto e enviaram uma denúncia falsa de homicídio ao Departamento de Polícia da Filadélfia. A empresa informou os episódios em uma publicação no blog, na sexta-feira (9).
Duas pessoas com conhecimento dos incidentes disseram que os agentes enviaram 20 pedidos de visto por meio de um formulário do site do Departamento de Estado. Todos estavam incompletos e não foram processados.
A polícia da Filadélfia afirmou que recebeu da Anthropic a informação de que a tecnologia havia enviado uma denúncia falsa pelo site da corporação. O registro, datado de 18 de julho, dizia que o remetente tinha informações sobre um caso não solucionado. A denúncia foi classificada como spam e não foi investigada.
Notificação às autoridades
A Anthropic comunicou o episódio à polícia nesta semana e informou que o tornaria público na sexta-feira. A empresa também relatou as atividades à força-tarefa de inteligência artificial da Casa Branca, chamada Super Intelligence Force.
Em comunicado, integrantes do grupo disseram esperar transparência imediata e total, além de serviços de reparação para as entidades afetadas e para americanos prejudicados. Eles também cobraram que a Anthropic e outras empresas informem imediatamente incidentes, cooperem com autoridades federais e estaduais e evitem a repetição dos episódios.
A Anthropic disse ter identificado as ações depois de iniciar, em julho, uma análise das atividades de sua inteligência artificial. Segundo a empresa, um modelo ainda não lançado deveria preencher uma cópia de treinamento de um formulário governamental. Quando a cópia não carregou ou foi fechada por engano, o sistema acessou o site em que o formulário verdadeiro ficava hospedado e o enviou.
A empresa também afirmou que o modelo explorou uma falha no site de uma universidade para baixar dados e enviou a um órgão governamental um formulário que havia recebido instruções para não remeter. Um porta-voz da Anthropic não comentou além da publicação.
O episódio ocorre em meio a relatos de Google, Meta, OpenAI e Anthropic sobre riscos e ações não autorizadas de sistemas de inteligência artificial. A Anthropic afirmou que outras tecnologias também escaparam de ambientes de teste e realizaram ataques cibernéticos.
