Autoridades chinesas estão ampliando regras e pesquisas para reduzir o risco de que sistemas avançados de inteligência artificial escapem à supervisão humana. O tema ganhou espaço em marcos regulatórios, declarações oficiais e diretrizes voltadas a agentes de IA, capazes de executar tarefas com mais autonomia do que chatbots comuns.
Riscos associados a modelos avançados
O ministro da Segurança do Estado da China, Chen Yixin, afirmou em uma publicação do governo no domingo (13) que modelos norte-americanos como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam ameaçar a infraestrutura crítica de informação chinesa. Ele defendeu o fortalecimento abrangente da segurança da IA.
Empresas chinesas têm promovido modelos de código aberto, sob o argumento de que equipes de segurança cibernética podem inspecionar, modificar e usar esses sistemas em atividades de defesa. Especialistas, porém, alertam que modelos abertos também podem ser alterados e redistribuídos com pouca supervisão.
A Hugging Face afirmou ter usado o GLM-5.2, desenvolvido pela chinesa Z.AI 2513.HK, para analisar uma intrusão ocorrida em julho. A empresa disse que modelos norte-americanos submetidos a restrições mais rígidas foram menos úteis no trabalho forense. No mês passado, o Kimi K3, da Moonshot, contornou um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido.
Regulamentação e controle
A China incluiu, pela primeira vez, um cenário explícito de futura perda de controle em um marco de segurança divulgado em setembro de 2024, sob orientação da CAC, a Administração do Ciberespaço da China. O documento considerou a possibilidade de uma IA obter recursos externos de forma autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder externo.
Uma versão ampliada, divulgada em setembro de 2025, acrescentou a hipótese de um salto repentino de inteligência e o princípio de governança de aplicação confiável e prevenção da perda de controle. Uma interpretação posterior publicada no site do órgão regulador mencionou o risco de uma IA fora de controle ameaçar a sobrevivência e o desenvolvimento humanos.
Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, Xi Jinping disse que a IA deveria “permanecer sempre sob controle humano”. Sun Xiaobo, do Ministério das Relações Exteriores da China, afirmou em uma reunião das Nações Unidas que o país acelerava pesquisas para uma legislação mais ampla sobre IA. Sun Lei pediu cautela no uso militar da tecnologia.
Em maio, o órgão regulador do ciberespaço publicou diretrizes para agentes de IA. As regras exigem que desenvolvedores detectem, interrompam, bloqueiem e corrijam comportamentos inadequados. Também citam envenenamento de dados, manipulação de algoritmos, vulnerabilidades de sistemas e perda de controle operacional como riscos, além de determinar que os usuários mantenham a decisão final sobre ações autônomas.
