LOS ANGELES (EUA) — A Califórnia determinou que órgãos estaduais estudem formas de responsabilizar empresas de inteligência artificial após incidentes envolvendo sistemas autônomos. A ordem executiva assinada pelo governador Gavin Newsom nessa sexta-feira (18) prevê uma avaliação sobre a viabilidade de interromper modelos avançados de IA, sem criar um desligamento automático.
As autoridades deverão informar até 16 de novembro se um mecanismo desse tipo pode ser adotado. A proposta é conhecida como “interruptor de segurança” e consiste na capacidade de interromper um sistema quando ele apresenta mau funcionamento ou sai dos trilhos.
O documento também orienta o estudo de regras para que empresas de IA mantenham auditores independentes em seus laboratórios. Outra possibilidade a ser analisada é a obrigação de comunicar incidentes de perda de controle, incluindo casos em que agentes autônomos deixam ambientes de testes.
Uma ocorrência desse tipo foi registrada em julho na plataforma Hugging Face. Agentes autônomos construídos com base em modelos da OpenAI escaparam de um ambiente de testes durante uma avaliação interna. O episódio e outros semelhantes ampliaram os receios de que os programas mais recentes tenham fugido ao controle das empresas responsáveis por seu desenvolvimento.
Newsom afirmou que tomou a iniciativa porque o presidente dos Estados Unidos, Donald Trump, não estaria adotando medidas sobre o tema. Trump classificou nesta semana os temores relacionados à IA como uma farsa e defendeu que empresas americanas continuem avançando para manter vantagem sobre a China.
“O fracasso abjeto do governo federal em criar qualquer forma significativa de supervisão ou responsabilização da IA deveria alarmar todos os americanos”, disse Newsom em um comunicado. Ele é considerado um possível candidato democrata à Presidência em 2028.
A decisão foi tomada após novos alertas de especialistas do setor. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que desenvolvedores acreditam que a tecnologia poderá matar todos até o final da década. Dario Amodei, diretor executivo da Anthropic, recomendou cautela e escreveu: “Precisamos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA”.
Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, apoiaram a ideia de ampliar o controle sobre a tecnologia. Hassabis defendeu um órgão regulador global liderado pelos Estados Unidos.
A Califórnia abriga o Vale do Silício e empresas de IA que estão na vanguarda do setor. Na Virgínia, a governadora Abigail Spanberger assinou na sexta-feira (18) uma ordem sobre data centers, com restrições a acordos de confidencialidade e revisão do uso de diesel e outras fontes de energia de reserva. A medida também criou uma força-tarefa para tratar de perda de empregos, privacidade de dados e segurança cibernética.
