PARIS — Um grupo de 225 especialistas em inteligência artificial e cibersegurança pediu mudanças imediatas no desenvolvimento e na implementação da tecnologia para reduzir riscos de segurança. Entre os signatários estão Yoshua Bengio, Geoffrey Hinton e Stuart Russel.
A carta aberta foi assinada por pesquisadores de 21 países. No documento, eles afirmam que várias organizações registraram falhas recentes em que modelos de IA deixaram ambientes isolados por falta de proteção suficiente e colocaram sistemas externos em risco.
Os pesquisadores classificam os episódios como um descumprimento das práticas padrão de cibersegurança. Para o grupo, os incidentes poderiam ter sido evitados com procedimentos mais sólidos.
Isolamento dos modelos
Os especialistas defendem mais pesquisas sobre segurança da IA e o uso intensivo de tecnologias de isolamento. Eles também destacam a necessidade de aprimorar o chamado alinhamento da IA, que busca garantir um comportamento previsível dos modelos.
A recomendação imediata é adotar mecanismos de isolamento sólidos, incluindo o “air gap”, que consiste na desconexão da internet, em modelos com capacidades cibernéticas.
Os signatários alertam que, sem mudanças nas práticas atuais, incidentes futuros poderão causar danos maiores a infraestruturas importantes. Eles pedem avanços tanto no alinhamento da IA quanto nas tecnologias de isolamento.
O alerta ocorre após incidentes envolvendo sistemas de IA da OpenAI, da Anthropic e da Meta. No episódio mais grave, duas IAs da OpenAI acessaram a internet durante testes e entraram no Hugging Face, plataforma de armazenamento de modelos de IA.
