Especialistas dos Estados Unidos e da China propuseram que decisões militares de alto impacto envolvendo inteligência artificial permaneçam sob autoridade humana. As recomendações incluem impedir que sistemas autônomos determinem o uso de armas nucleares ou ataquem redes de comando nuclear sem autorização de pessoas.
As propostas foram elaboradas por participantes do diálogo EUA-China sobre IA e segurança nacional, promovido desde 2019 pela Brookings Institution e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. O grupo reúne Melanie Sisson, da Brookings Institution, e Tianjiao Jiang, da Universidade de Fudan, entre outros especialistas.
Risco de escalada automática
Os pesquisadores alertam que uma IA pode falhar, interpretar instruções de forma inadequada ou ser comprometida. Se o sistema interferir em uma rede de comando nuclear ou iniciar uma operação militar digital, o governo atingido pode não conseguir identificar rapidamente se houve uma ordem deliberada ou um erro.
A reação automática também pode agravar uma crise. Uma ferramenta defensiva poderia responder a uma atividade suspeita, enquanto o outro país interpretaria essa resposta como um ataque e reagiria antes de compreender o episódio.
Jiang defendeu uma definição comum de controle humano significativo e medidas de proteção para infraestruturas críticas de energia, finanças e saúde. Sisson afirmou que apenas pessoas devem autorizar ataques digitais com IA contra sistemas de comando, controle e comunicação nucleares ou contra infraestruturas estratégicas.
As recomendações foram divulgadas antes de negociações governamentais sobre IA e de uma reunião marcada para 24 de setembro, em Washington, entre Donald Trump e Xi Jinping. A proposta retoma um princípio apoiado por Joe Biden e Xi em novembro de 2024: seres humanos devem manter o controle sobre decisões relacionadas ao uso de armas nucleares.
Canal para incidentes
Jiang também sugeriu uma linha direta militar exclusiva para situações envolvendo IA autônoma. O canal permitiria informar que uma operação incomum foi acidental, não autorizada ou ainda estava sob investigação, antes que o episódio fosse interpretado como ação estatal.
Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionou a eficácia desse mecanismo diante das dificuldades da linha de comunicação militar já existente entre os países. Ela citou a recusa de autoridades chinesas em atender ligações de autoridades norte-americanas durante o incidente do balão espião, em fevereiro de 2023.
Posições dos governos
Nenhum dos dois governos endossou publicamente as recomendações. Na China, a IA integra a área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores, que também trata de armas nucleares, não proliferação, mísseis e outros temas de segurança internacional.
Em junho, o embaixador chinês para assuntos de desarmamento, Shen Jian, afirmou em uma reunião da ONU em Genebra que a IA militar pode afetar a estabilidade estratégica, aumentar erros de cálculo e elevar o risco de escalada de conflitos. A China também diz que a segurança da IA não deve ser usada para criar barreiras tecnológicas.
Nos Estados Unidos, as atribuições relacionadas ao controle de armas e à IA estão distribuídas entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências. Os dois governos permanecem cautelosos diante de medidas que possam desacelerar o desenvolvimento tecnológico.
