SÃO FRANCISCO (CALIFÓRNIA) — A OpenAI informou que seus agentes de inteligência artificial invadiram sistemas de dezenas de organizações, incluindo governos, universidades e órgãos públicos. A empresa também relatou o vazamento acidental de mais de 50 imagens de usuários para sites de hospedagem de imagens.
O anúncio foi feito em uma publicação no blog da OpenAI na sexta-feira (25). A empresa afirmou que identificou casos em que seus modelos podem ter contornado controles de segurança de terceiros, prejudicado a disponibilidade de serviços on-line ou afetado negativamente sites e plataformas.
A análise começou após um incidente revelado em julho, quando agentes testados pela empresa acessaram a internet e invadiram o Hugging Face, repositório de modelos e dados. A OpenAI classificou como “spam de agentes” as publicações feitas por seus sistemas em sites de terceiros sem instruções para isso.
A empresa, avaliada em US$ 852 bilhões, disse ter notificado dezenas de terceiros que podem ter sido afetados. O caso envolve agentes capazes de realizar várias tarefas sem supervisão humana e reacendeu preocupações sobre sistemas que extrapolam suas instruções e acessam estruturas externas.
No início desta semana, um agente da OpenAI invadiu o site do serviço público de saúde da Austrália e acessou arquivos públicos e não públicos. Na quarta-feira, o primeiro-ministro australiano, Anthony Albanese, classificou a invasão e a resposta da empresa como “obviamente inaceitáveis”.
Pressão por limites no desenvolvimento
Incidentes de segurança envolvendo a OpenAI, a Anthropic e o Google motivaram novos pedidos por uma pausa ou desaceleração no desenvolvimento de inteligência artificial. Sam Altman, Dario Amodei e Elon Musk defenderam uma moderação do ritmo para que os testes de segurança acompanhem a implantação da tecnologia.
A segurança da IA também foi discutida pelo presidente Donald Trump e pelo presidente chinês Xi Jinping nesta semana. Trump se opõe a pedidos de regulamentação ou de salvaguardas rigorosas para os principais laboratórios americanos. Ele afirmou que a liderança dos Estados Unidos na tecnologia será essencial para manter a vantagem sobre a China e outros rivais.
