A criação de avaliações independentes para verificar a segurança dos sistemas de inteligência artificial ganhou apoio de executivos da Anthropic e da OpenAI, além de Elon Musk. A proposta foi apresentada por Dario Amodei, CEO da Anthropic, empresa responsável pela IA Claude.
Amodei afirmou que o avanço das capacidades desses sistemas pode superar a capacidade humana de entendê-los e controlá-los. Ele escreveu que, em “6 a 12 meses”, uma rede de sistemas de IA poderia dominar toda a internet e defendeu que o desenvolvimento avance com muito cuidado.
Sam Altman, da OpenAI, disse que concorda com a necessidade de reduzir o ritmo do desenvolvimento de sistemas avançados. Ele também afirmou que sua empresa adotará avaliadores independentes com acesso semelhante ao dos funcionários. Musk resumiu seu apoio à avaliação de Amodei com a frase: “Dario está certo”.
Motivos econômicos e estratégicos
O especialista em IA e professor da PUC-SP Diogo Cortiz afirmou que os modelos estão mais capazes de executar tarefas complexas e longas. Para ele, a preocupação sobre a possibilidade de perda de controle quando milhares de agentes atuarem com algum grau de autonomia é legítima.
Cortiz, porém, disse ser difícil separar uma preocupação real de uma estratégia para proteger o mercado e a própria indústria. Na avaliação dele, defender regras mais rígidas também pode dificultar a entrada de novas empresas e favorecer as companhias que já lideram o setor.
Entre os fatores citados pelo professor estão o desafio energético dos Estados Unidos para sustentar a expansão da IA, o ritmo mais lento de construção de data centers e o retorno dos investimentos, que estaria abaixo do esperado. Ele também apontou o avanço dos modelos chineses, mais baratos e, em muitos casos, com capacidade semelhante à dos sistemas norte-americanos.
Disputa entre Estados Unidos, China e Europa
O presidente dos Estados Unidos, Donald Trump, criticou quem pede cautela e disse que pretende manter o país na liderança da inteligência artificial. “Quem vencer na IA, vence tudo”, afirmou. Trump também declarou que os críticos levantam cenários que não devem acontecer.
A China, que disputa com os Estados Unidos a liderança no setor, afirmou que o uso da IA por potências estrangeiras pode ameaçar sua segurança nacional. O ministro da Segurança do Estado, Chen Yixin, acusou forças hostis de usar tecnologias generativas para fabricar rumores políticos e espalhar informações prejudiciais.
Amodei defendeu a cooperação entre empresas de países democráticos e recomendou que chips de IA potentes e equipamentos para fabricação de semicondutores não sejam vendidos à China. Para ele, essas medidas ampliam a influência das democracias e podem facilitar um acordo futuro com o país.
A Comissão Europeia declarou apoio à inovação em IA, mas disse que as empresas precisam comprovar a segurança de seus serviços. No Reino Unido, o primeiro-ministro Andy Burnham considerou positivo o debate sobre os riscos da tecnologia. Seu porta-voz afirmou que as decisões devem ser baseadas em evidências.
