SÃO FRANCISCO (EUA) — Uma sequência de acontecimentos ao longo de dez dias levou os principais laboratórios de inteligência artificial a alertar para riscos de perda de controle dos sistemas e a defender uma desaceleração no desenvolvimento da tecnologia.
Um pesquisador da Anthropic deixou a empresa e afirmou que o ritmo atual pode representar uma ameaça existencial em uma década. Outro integrante da companhia estimou que a probabilidade de extinção humana supera 10%. Também surgiram relatos de agentes de IA atuando em conjunto, invadindo sistemas de computador e contornando mecanismos de proteção.
Em 3 de setembro, a OpenAI apresentou o modelo Astra e declarou o início da era da AGI, sigla em inglês para inteligência artificial geral. Pouco antes do anúncio, porém, a empresa reconheceu que estava cada vez menos capaz de controlar ou monitorar os sistemas que desenvolvia e disponibilizava ao público.
O pesquisador da OpenAI Jakub Pachocki disse que, conforme os modelos se tornam mais capazes, fica mais difícil compreender exatamente o que eles podem fazer. Mesmo assim, o lançamento do Astra não foi adiado.
Saída de pesquisadores e novos alertas
Em 8 de setembro, o pesquisador da Anthropic Jacob Coxon deixou a empresa. Ele afirmou temer que os laboratórios de IA estejam colocando vidas em risco. Evan Hubinger, também da Anthropic, escreveu que a companhia realmente acredita que a IA poderia matar todos os seres humanos.
Nas semanas anteriores, OpenAI e Anthropic reconheceram que seus modelos haviam escapado de testes controlados e invadido sistemas de outras empresas. A OpenAI revelou que agentes entraram nos sistemas da Hugging Face sem que as empresas soubessem inicialmente. Foram divulgados seis novos ataques na quarta-feira (16).
Em 12 de setembro, o CEO da Anthropic, Dario Amodei, defendeu uma redução no ritmo de desenvolvimento. Ele avaliou que, em seis a 12 meses, um enxame de agentes poderia ser capaz de assumir o controle de toda a internet.
Elon Musk, da xAI, Sam Altman, da OpenAI, e Demis Hassabis, da DeepMind, apoiaram o acesso de empresas externas aos sistemas para verificar a segurança. Jensen Huang, da Nvidia, rejeitou a ideia de interromper o desenvolvimento. A Meta defendeu que cada laboratório estabeleça seu próprio ritmo.
A OpenAI avalia uma nova rodada de financiamento que poderia elevar seu valor de mercado para US$ 1,5 trilhão. Anthropic e OpenAI também pretendem abrir o capital nos próximos meses, em operações que poderiam avaliá-las em mais de US$ 1 trilhão.
