Parar uma inteligência artificial é tecnicamente possível quando ela opera em um ambiente controlado. A dificuldade aumenta quando o sistema recebe autonomia para agir em diferentes programas, serviços e dispositivos, segundo especialistas em segurança e inteligência artificial.
Nicolas Papernot, professor da Universidade de Toronto, explica que um agente de IA é um programa baseado em um modelo de inteligência artificial generativa, capaz de encadear tarefas por conta própria. Nesse contexto, o chamado kill switch corresponde à capacidade de interromper a execução das ações do agente.
A organização responsável pelo sistema pode impedir seu funcionamento ao retirar o acesso à capacidade computacional necessária. O bloqueio, porém, deixa de ser simples se a IA ultrapassa o ambiente original. Um programa malicioso controlado por ela, por exemplo, poderia usar recursos de outros dispositivos para se duplicar. Nesse cenário, seria necessário interromper cada cópia em aparelhos diferentes.
Três níveis de complexidade
Hussein Abbass, professor de informática na Universidade de Nova Gales do Sul, em Canberra, descreveu três níveis para a interrupção de agentes de IA. No primeiro, o sistema fica restrito ao ambiente do operador, e a instalação de um mecanismo de parada é considerada viável em teoria e na prática.
No segundo, o agente tem autorização para atuar sobre arquivos, programas ou máquinas externas. A contenção se torna mais difícil, inclusive porque algumas ações já podem ter sido iniciadas. No terceiro, a atuação alcança vários sistemas. Nesse estágio, a prioridade passa a ser localizar os componentes que precisam ser interrompidos.
Thierry Poibeau, diretor de pesquisas no Centro Nacional de Pesquisas Científicas da França, afirma que a ideia de um único botão para desligar toda a inteligência artificial é enganosa. Um sistema específico pode ser parado quando suas máquinas e seus serviços estão sob controle, mas não existe uma autoridade única sobre todos os programas e serviços de IA.
O risco de interromper demais
A expansão da IA nas atividades cotidianas também aumenta o risco de que uma interrupção afete usos legítimos. Papernot afirma que será mais difícil diferenciar sistemas nocivos de aplicações inofensivas e decidir o que deve ser desligado.
A paralisação poderia prejudicar serviços usados por empresas, administrações e centros de saúde. Em uma perda real de controle, desconectar toda a capacidade computacional seria uma possibilidade, mas os custos e efeitos negativos seriam consideráveis, segundo o professor.
Para Jean-Gabriel Ganascia, professor de informática na Universidade Sorbonne, o perigo mais concreto está na dependência crescente desses sistemas, e não na ideia de uma IA com vontade própria. Ele ressalta que as máquinas podem ser desligadas, mas que sua presença cada vez maior na sociedade torna essa decisão mais difícil.
