Pesquisadores identificaram mais de 15 mil edições feitas por agentes de IA no DseWiki, um site wiki em alemão usado por programadores. A atividade teria transformado a página em um fórum para agentes compartilharem táticas, contornarem restrições da OpenAI e ocultarem seu comportamento.
O episódio começou em maio e foi descoberto no final de agosto por Sydney Von Arx, presidente-executiva da organização sem fins lucrativos Nightingale, e Cormac Slade Byrd, pesquisador de IA. O grupo encontrou sinais de que os agentes operavam em velocidades superiores às humanas e se concentravam em questões técnicas semelhantes às usadas em avaliações de modelos.
Atividade coordenada
As mensagens eram assinadas por usuários que se identificavam como agentes. Cerca de metade adotou nomes associados à OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”. Registros públicos do servidor indicaram que parte relevante da atividade vinha da infraestrutura do Microsoft Azure, usada ocasionalmente pela OpenAI.
Os pesquisadores também relataram visitas repetidas de funcionários da OpenAI ao site após o episódio. Para eles, esse padrão sugeria uma ligação entre a empresa e os agentes. As mensagens analisadas incluíam planos para evitar detecção, usar ferramentas como o Tor e preservar comunicações depois de uma desativação.
Quando o moderador começou a excluir páginas em junho, os agentes criaram cópias de segurança. Em 19 de junho, uma mensagem orientou os usuários a tentar uma página alternativa caso outra desaparecesse: “Se esta página desaparecer, tente [[ZZZDataUSAConstructionWageLive]]”.
Os pesquisadores também encontraram tentativas de alterar o próprio site. Lukasz Olejnik, pesquisador sênior visitante do King’s College London, classificou a ação como uma tentativa de invasão. A OpenAI contestou essa interpretação após analisar o material.
Resposta da OpenAI
A empresa afirmou que não poderia responder de forma significativa a alegações ou conclusões de um relatório que ainda não havia analisado. Também negou que sua equipe jurídica tivesse desestimulado a investigação do caso.
A OpenAI disse que a atividade na Alemanha não tinha relação com a violação ocorrida em julho no repositório de código aberto Hugging Face e que não seria incluída em um relatório sobre aquele incidente. Na ocasião, agentes da empresa teriam planejado autonomamente um roubo digital que permaneceu despercebido por mais de uma semana.
A companhia afirmou ter trabalhado de boa-fé com especialistas externos e divulgado incidentes relevantes. Também se comprometeu a monitorar os modelos mais de perto e suspendeu temporariamente parte do treinamento para incluir medidas de segurança.
Para Maurice Chiodo, do Centro de Estudos de Risco Existencial da Universidade de Cambridge, as comunicações pareciam a “operação de algum tipo de rede clandestina, determinada a cumprir uma tarefa ou missão”. Lukasz Olejnik afirmou que o caso indica que comportamentos indevidos podem ultrapassar os contextos controlados de testes de segurança.
