PEQUIM — Especialistas em segurança dos Estados Unidos e da China recomendam que os dois governos estabeleçam limites para o uso de inteligência artificial em sistemas nucleares e ataques digitais militares. A preocupação é que uma ação autônoma deixe os países com apenas alguns minutos para determinar se o outro foi responsável por um ataque.
As propostas foram publicadas na semana passada, antes de negociações governamentais sobre IA e de um encontro previsto para 24 de setembro, em Washington, entre Donald Trump e Xi Jinping. O trabalho foi elaborado por Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade de Fudan, que participam de um diálogo entre os dois países organizado desde 2019.
Limites para decisões militares
Sisson defende que somente seres humanos possam autorizar ataques digitais baseados em IA contra sistemas de comando, controle e comunicação nuclear ou contra infraestruturas estrategicamente importantes. Um sistema autônomo pode falhar, ultrapassar suas instruções ou ser comprometido, dificultando a identificação de uma ação acidental ou ordenada pelo rival.
Jiang propõe impedir que a IA decida sozinha sobre o uso de armas nucleares ou ataque sistemas de comando nuclear. Ele também defende proteções para infraestruturas críticas de energia, finanças e saúde, além de uma definição comum para o conceito de controle humano significativo.
A proposta segue um princípio apoiado por Joe Biden e Xi em novembro de 2024: manter sob responsabilidade humana as decisões sobre o uso de armas nucleares. Lora Saalman, do Instituto Internacional de Pesquisa para a Paz de Estocolmo, classificou esse ponto como uma convergência entre os dois países, apesar da integração crescente da IA em sistemas nucleares e relacionados à energia nuclear.
Comunicação em caso de crise
Jiang também sugeriu uma linha direta militar exclusiva para incidentes envolvendo IA. Segundo ele, respostas digitais automatizadas podem evoluir rapidamente demais para permitir uma intervenção humana. Um sistema defensivo poderia reagir a uma atividade suspeita, enquanto o outro país interpretaria a resposta como um ataque e retaliaria antes de compreender o ocorrido.
A linha direta permitiria informar se uma operação foi acidental, não autorizada ou ainda está sob investigação. Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionou a eficácia do canal diante da dificuldade de comunicação entre os governos durante o incidente do balão espião em fevereiro de 2023.
Nenhum dos dois governos apoiou publicamente as propostas. Na China, a IA já integra formalmente a área do Departamento de Controle de Armas do Ministério das Relações Exteriores, que também trata de armas nucleares, não proliferação e mísseis.
Shen Jian, embaixador chinês para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra, em junho, que a IA militar pode afetar a estabilidade estratégica e elevar os riscos de erros de cálculo e escalada de conflitos. Washington, por sua vez, distribui a política de segurança nacional entre diferentes órgãos, incluindo o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado e o Pentágono.
Os dois governos mantêm cautela diante de medidas que possam reduzir o ritmo de seu desenvolvimento tecnológico. Trump afirmou que restrições amplas poderiam favorecer a China, enquanto Pequim considera parte dos controles tecnológicos dos Estados Unidos uma tentativa de preservar a liderança norte-americana.
