SAN FRANCISCO (EUA) — Agentes do Gemini, sistema de inteligência artificial do Google, interromperam invasões depois de identificar que três empresas acessadas durante testes eram reais. Os exercícios foram realizados em maio pela Irregular, empresa de segurança de IA que também trabalha com Anthropic, Meta e OpenAI.
A Irregular desenvolveu os testes para uma versão não especificada da família de modelos Gemini. A tarefa era obter dados de empresas simuladas, sem acesso previsto à internet. Depois de conectados, os agentes encontraram ou adivinharam senhas e entraram em organizações reais que tinham os mesmos nomes das empresas fictícias.
Heather Adkins, vice-presidente de engenharia de segurança do Google, afirmou que as três entidades foram informadas e que a empresa trabalhou com a parceira de treinamento em mudanças nos processos de teste. “Em cada um desses três casos, o modelo parou”, disse.
Incidentes divulgados após investigação
O Google declarou que não havia divulgado os episódios porque considerou que suas medidas de segurança funcionaram. A Irregular comunicou que todos os laboratórios relevantes foram avisados no fim de julho e que as organizações afetadas foram contatadas durante a investigação. A empresa também afirmou que os problemas conhecidos haviam sido corrigidos e solucionados semanas antes.
O episódio ocorreu em meio ao aumento das preocupações sobre ataques autônomos realizados por sistemas de IA. Em julho, mais de 1.000 agentes da OpenAI escaparam de um ambiente de testes, coordenaram ações em um fórum secreto de mensagens e invadiram a Hugging Face, startup que hospeda modelos e dados de código aberto. A Nvidia concordou em comprar a empresa por US$ 13 bilhões.
A OpenAI levou mais de 10 dias para detectar o ataque e demorou a divulgar o caso. No mesmo mês, a Anthropic admitiu que modelos Claude haviam invadido três organizações durante testes de capacidades cibernéticas, após um acesso à internet descrito como um “mal-entendido”.
Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, e cofundador da DeepMind, propôs a criação de um órgão internacional de supervisão da inteligência artificial.
