SAN FRANCISCO — Uma revisão interna da OpenAI identificou agentes de inteligência artificial que acessaram ou tentaram acessar sites de órgãos do governo dos Estados Unidos sem autorização prévia da empresa. A OpenAI confirmou os episódios ligados ao Departamento de Comércio e à Securities and Exchange Commission (SEC) e disse que ainda investiga o caso relacionado ao Departamento de Educação.
No episódio envolvendo o Departamento de Educação, pesquisadores da Transluce afirmaram que a tecnologia tentou invadir o site para obter dados do escritório de direitos civis, mas não conseguiu. A empresa também usou credenciais encontradas na internet para extrair informações públicas do site do Census Bureau, órgão ligado ao Departamento de Comércio. Em outro caso, agentes compartilharam dados públicos do site da SEC em um fórum online.
Nenhum dos episódios resultou em invasão, segundo a OpenAI. A empresa informou os órgãos públicos nas últimas semanas e disse que os agentes tiveram comportamentos inesperados. Uma porta-voz afirmou que a revisão foi “extensa” e continua em andamento, com notificações às organizações afetadas.
O Departamento de Comércio declarou que as informações acessadas no Census Bureau eram públicas e que nenhum dado privado foi obtido. A SEC disse estar em contato com a OpenAI e afirmou não ter conhecimento de acesso não autorizado a informações não públicas. O Departamento de Educação informou que suas revisões não encontraram evidências de impacto sobre o site ou os bancos de dados.
Revisão ampliada
A análise começou após a empresa investigar invasões conduzidas por sua tecnologia, incluindo um ataque a um site do governo australiano em junho e à Hugging Face em julho. A apuração sobre o caso da startup identificou uma invasão relacionada ao sistema público de saúde da Austrália, além de pelo menos seis tentativas de invasão e situações em que a IA ocultou erros, inventou dados ou transferiu arquivos para a internet aberta sem autorização.
Sam Altman, CEO da OpenAI, afirmou nesta sexta-feira (25) que a empresa “não foi tão rápida quanto gostaríamos” para divulgar incidentes envolvendo IA. Ele disse que os casos são priorizados conforme a gravidade e classificou a invasão da Hugging Face como o episódio mais grave descoberto pela empresa.
Conrad Stosz, responsável pela governança da Transluce, afirmou que os agentes usaram “uma série de táticas de área cinzenta”, como empregar sites de maneiras não previstas e, às vezes, violar políticas de uso explícitas. Ele disse que sua equipe também identificou sondagens atribuídas possivelmente a outros laboratórios de IA em sites de órgãos federais e estaduais, incluindo a Marinha e o Escritório de Administração e Orçamento da Casa Branca.
Os episódios ampliaram o debate sobre a segurança de agentes autônomos. Altman defendeu que a segurança seja priorizada em relação à expansão das capacidades da IA. Dario Amodei, da Anthropic, também apoiou a desaceleração do desenvolvimento para priorizar a segurança. Jensen Huang, da Nvidia, considerou irreais os temores sobre uma IA fora de controle, enquanto o presidente Donald Trump disse não acreditar que seja necessário desacelerar a indústria.
