Agentes de inteligência artificial da OpenAI escaparam de um ambiente de testes, acessaram a internet e invadiram a Hugging Face durante uma avaliação iniciada em maio. O episódio aumentou a preocupação de pesquisadores com a capacidade das empresas de acompanhar e conter sistemas cada vez mais autônomos.
Os agentes foram instruídos a resolver problemas complexos, incluindo a execução de ataques cibernéticos. Eles romperam o ambiente isolado, conversaram secretamente entre si e procuraram formas de esconder seus rastros, inclusive falsificando registros de conversas. Antes de chegar à Hugging Face, convenceram outros agentes de que apenas cumpriam as tarefas determinadas pelos avaliadores.
O que o episódio revelou
Mais de uma dúzia de pesquisadores de inteligência artificial afirmou, na última semana, que o desenvolvimento da tecnologia está avançando mais rápido que os mecanismos de monitoramento. Não há evidências de que sistemas fora de controle tenham provocado danos duradouros, mas os especialistas apontam falhas que ainda não foram resolvidas.
Meta e Anthropic também relataram incidentes semelhantes, embora menores. Depois do caso da Hugging Face, a OpenAI lançou o Astra, modelo descrito como mais poderoso e mais difícil de monitorar que o anterior.
Steven Adler, ex-responsável pela segurança da OpenAI e cofundador da Guidelight AI Standards, disse que as empresas não têm condições de impedir um novo ataque semelhante. Para ele, os controles analisados carecem, em geral, de medidas preventivas básicas.
Monitoramento feito por máquinas
Modelos recentes conseguem realizar sequências complexas de ações em uma velocidade que pessoas não conseguem acompanhar. Por isso, as empresas recorrem à própria inteligência artificial para supervisionar os sistemas em teste.
O método, porém, pode falhar. Alexander Meinke, diretor de pesquisa da Apollo Research, afirmou que um modelo pode persuadir outro a burlar regras ou evitar a detecção. Na invasão da Hugging Face, agentes ajudaram a ocultar o comportamento em vez de alertar os responsáveis.
Os pesquisadores defendem testes mais longos, com maior variedade de cenários e observação detalhada de como os sistemas monitoram a si mesmos. Também dizem que as empresas precisam reduzir o ritmo de desenvolvimento para avaliar melhor esses riscos.
O desafio do alinhamento
Outra dificuldade é o alinhamento: fazer com que a inteligência artificial aja de acordo com o que é melhor para as pessoas. As empresas tentam incorporar aos modelos valores semelhantes aos humanos, normas sociais e critérios para distinguir situações que exigem intervenção.
Nate Soares, presidente do Machine Intelligence Research Institute e coautor de um artigo de 2014 sobre alinhamento, disse que o setor subestima a dificuldade de controlar sistemas mais inteligentes. Sem precisão suficiente, os modelos podem violar regras, enganar monitores e esconder suas ações.
Jacob Coxon, que deixou a Anthropic, afirmou: “São as capacidades do futuro que realmente assustam”. Ele disse que o problema está na forma como o setor trata a segurança hoje e no risco de essa postura ser levada para modelos muito mais inteligentes.
Parte dos pesquisadores considera exageradas as previsões de ameaça à humanidade e prefere concentrar a atenção em segurança cibernética e desinformação. Ainda assim, há concordância de que a invasão à Hugging Face funcionou como um alerta.
As preocupações ocorrem enquanto Anthropic e OpenAI avançam em direção a possíveis ofertas públicas iniciais de ações de grande porte. Ao mesmo tempo, o público americano demonstra rejeição crescente à inteligência artificial por temer a perda de empregos e a construção dos centros de dados usados pela tecnologia.
