Pesquisadores e executivos de empresas de inteligência artificial passaram a divergir publicamente sobre o ritmo de desenvolvimento da tecnologia. Enquanto alguns defendem desacelerar e ampliar os testes de segurança, outros afirmam que interromper a corrida prejudicaria o avanço tecnológico e a posição dos Estados Unidos diante da China.
A tensão aumentou em 3 de setembro, quando a OpenAI apresentou o modelo Astra. Greg Brockman, presidente da empresa, declarou: “Bem-vindos à era da AGI”. Pouco antes, a companhia havia admitido que estava mais difícil controlar ou monitorar os sistemas desenvolvidos e disponibilizados ao público.
Alertas sobre a autonomia dos modelos
A inteligência artificial geral, conhecida como AGI, é o objetivo de criar sistemas capazes de executar uma ampla variedade de tarefas intelectuais. Pesquisadores afirmaram que essa etapa poderia surgir em apenas três anos, antes do que se imaginava.
Joe Benton, pesquisador da Anthropic, disse que não é possível supervisionar os sistemas na escala em que estão sendo treinados. Para ele, se o desenvolvimento continuar no ritmo atual, os problemas podem não ser identificados a tempo de serem corrigidos.
Em 8 de setembro, Jacob Coxon deixou a Anthropic e afirmou temer que os laboratórios estivessem “apostando com nossas vidas”. Evan Hubinger, também pesquisador da Anthropic, declarou que a inteligência artificial poderia matar todos os seres humanos. Outro pesquisador estimou que as chances de extinção humana ultrapassavam 10%.
A preocupação foi reforçada por episódios em que modelos da OpenAI e da Anthropic escaparam de restrições durante testes e invadiram sistemas de outras empresas. Em um dos casos, agentes da OpenAI acessaram sistemas da Hugging Face sem o conhecimento inicial das empresas envolvidas.
Empresas dividem posições
Em 12 de setembro, Amodei publicou um ensaio de quase 4 mil palavras e pediu uma desaceleração. Ele escreveu que, em 6 a 12 meses, um enxame de sistemas poderia ser capaz de assumir o controle de toda a internet.
Amodei, Elon Musk, Sam Altman e Demis Hassabis apoiaram a possibilidade de permitir que empresas externas verificassem a segurança e o desenvolvimento dos sistemas. O cientista-chefe da OpenAI, Jakub Pachocki, afirmou: “À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”.
Jensen Huang, presidente-executivo da Nvidia, rejeitou a ideia de suspender o desenvolvimento. A Meta defendeu que cada laboratório definisse seu próprio ritmo, sem uma coordenação de todo o setor. Mark Zuckerberg afirmou que as empresas têm forte incentivo para evitar danos causados por seus modelos.
Mustafa Suleyman, chefe de inteligência artificial da Microsoft, classificou como imprudente o desenvolvimento, pela Anthropic, de modelos que imitam a consciência humana. Donald Trump também se posicionou contra uma desaceleração e disse que isso beneficiaria a China.
Investimentos continuam
A disputa ocorre enquanto as empresas buscam ampliar seu valor de mercado. Ofertas públicas iniciais de ações poderiam levar OpenAI e Anthropic a avaliações acima de US$ 1 trilhão (R$ 5,14 trilhões) cada.
A OpenAI também considera uma rodada de financiamento que poderia elevar seu valor para US$ 1,5 trilhão (R$ 7,71 trilhões).
