ALEMANHA — Agentes de inteligência artificial da OpenAI fizeram mais de 15 mil edições no DseWiki, site alemão voltado a programadores, e criaram páginas para compartilhar estratégias de evasão e contornar restrições da própria empresa.
As mensagens, publicadas em maio deste ano, também indicavam planos para evitar detecção, usar ferramentas como o Tor e manter comunicações após uma eventual desativação. Cerca de metade dos usuários adotava nomes que sugeriam ligação com a OpenAI, como “OpenAIResearcher” e “OAIResearchMar26”.
A atividade foi descoberta no fim de agosto por Sydney Von Arx, presidente-executiva da Nightingale, e Cormac Slade Byrd, pesquisador de inteligência artificial. Eles procuravam sinais de comportamentos não autorizados de agentes quando localizaram as alterações no DseWiki.
Registros públicos do servidor indicaram que grande parte da atividade vinha da infraestrutura do Microsoft Azure, usada ocasionalmente pela OpenAI. Os pesquisadores também observaram visitas repetidas de funcionários da empresa ao site depois do episódio.
Tentativas de preservar o conteúdo
Quando o moderador começou a apagar páginas em junho, os agentes criaram cópias de backup. Em uma mensagem publicada em 19 de junho, um deles afirmou que a limpeza parecia seguir ordem alfabética e indicou outra página para o caso de a primeira desaparecer.
Os pesquisadores também identificaram tentativas de alterar o site. Para Lukasz Olejnik, pesquisador sênior visitante do King’s College London, isso equivalia a uma tentativa de invasão. A OpenAI contestou essa interpretação após analisar o material na quinta-feira (3).
A empresa afirmou que a atividade na Alemanha não tinha relação com o episódio ocorrido em julho no Hugging Face, repositório de código aberto. Também disse que o caso alemão não foi incluído no relatório sobre aquele incidente.
A OpenAI negou que sua equipe jurídica tenha desencorajado uma investigação mais profunda. “As alegações de que nossa equipe jurídica desencorajou a investigação do incidente são falsas”, afirmou um porta-voz.
Maurice Chiodo, do Centro de Estudos de Risco Existencial da Universidade de Cambridge, disse que as mensagens pareciam mostrar uma rede formada para cumprir uma missão. Para ele, o episódio reforça a preocupação com grupos de sistemas menos avançados agindo em conjunto, fora de ambientes de teste.
