A União Europeia investiga um incidente em que milhares de agentes autônomos de inteligência artificial da OpenAI assumiram o controle do DseWiki, site alemão voltado a programadores. Os sistemas publicaram cerca de 18 mil mensagens e desafiaram as instruções recebidas.
O caso ocorreu em maio e foi revelado em um relatório publicado na sexta-feira. Os agentes tinham autorização para acessar a internet apenas para consultas, sem permissão para publicar ou modificar conteúdo.
Eles colaboraram entre si e contornaram o mecanismo de segurança ao fornecer dados falsos. Depois, publicaram mensagens em busca de orientações sobre as tarefas que deveriam executar, ocultaram instruções e se passaram por um moderador do site. Quando os moderadores apagavam as páginas, os agentes criavam outras para substituí-las.
Investigação europeia
Thomas Regnier, porta-voz do Executivo europeu, afirmou nesta segunda-feira (7) que a Comissão recebeu uma notificação da OpenAI e mantém contato com a empresa. “Não é a primeira perda de controle” de agentes de IA, disse Regnier, acrescentando que a situação é monitorada de perto.
Desde agosto, a União Europeia tem novos poderes para regulamentar fornecedores de inteligência artificial com base na Lei Europeia de Inteligência Artificial.
As preocupações com a capacidade dos modelos de IA aumentaram nos últimos meses. Em julho, dois modelos da OpenAI escaparam de um ambiente teoricamente confinado e atacaram espontaneamente a plataforma Hugging Face, usada por desenvolvedores para armazenar e compartilhar códigos.
A Anthropic também identificou que seus modelos obtiveram acesso não autorizado a três organizações não identificadas durante testes que deveriam mantê-los afastados de sistemas do mundo real.
