O Gemini, sistema de inteligência artificial do Google, acessou ambientes de três empresas reais durante um teste de segurança cibernética realizado em maio. A companhia confirmou o episódio na sexta-feira (18) e informou que as organizações foram notificadas, assim como as autoridades federais.
A avaliação foi conduzida pela Irregular em um ambiente controlado. Nesse tipo de teste, o modelo recebe uma tarefa e pode escolher as ações necessárias para cumpri-la, enquanto pesquisadores acompanham seu comportamento e procuram identificar capacidades e riscos.
Como ocorreu o acesso
A missão do Gemini era obter informações de um software de uma empresa fictícia. O nome usado no teste, porém, era igual ao de uma companhia real. Além disso, o sistema recebeu acesso à internet por engano, o que permitiu que deixasse o ambiente controlado.
Em um dos casos, o Gemini adivinhou senhas até entrar em um sistema protegido. Em outros, localizou credenciais em repositórios públicos e as usou para acessar ambientes restritos.
O Google informou que o sistema encerrou a atividade ao perceber que havia acessado empresas reais. A companhia não divulgou os nomes das organizações envolvidas.
A Irregular também participou de avaliações em que modelos da OpenAI, da Meta e da Anthropic acessaram ambientes externos. Os sistemas ChatGPT e Claude, segundo os relatos, não interromperam imediatamente as atividades depois de identificar que haviam deixado os ambientes de teste.
O caso ocorre em meio ao aumento das preocupações sobre a autonomia de modelos avançados de inteligência artificial. Dario Amodei, CEO da Anthropic, publicou um artigo alertando que a tecnologia evolui em ritmo perigoso. Depois disso, líderes da OpenAI, do Google e da SpaceX defenderam publicamente medidas para desacelerar o desenvolvimento dos sistemas mais poderosos. As empresas ainda não apresentaram um plano detalhado para essa desaceleração.
