A discussão sobre os riscos da inteligência artificial ganhou força após pesquisadores alertarem que o avanço dos sistemas pode escapar do controle humano. Evan Hubinger, cientista da Anthropic, afirmou que existe mais de 10% de chance de a IA “matar todos os humanos” na próxima década.
Hubinger atua com alinhamento de IA, área que busca manter os sistemas compatíveis com princípios e valores éticos humanos. Ele também disse que o risco representado pelas ferramentas atuais é baixo.
Cenários de risco
Jacob Coxon deixou a Anthropic por discordâncias sobre o rumo do desenvolvimento da tecnologia. À BBC, afirmou que ele e outros funcionários estavam “genuinamente assustados” com a velocidade dos avanços e com a possibilidade de perder o controle sobre a tecnologia.
Entre os cenários discutidos estão sistemas capazes de se aprimorar sem participação humana, além do uso de inteligência artificial em espionagem, ataques cibernéticos e guerra biológica. Também foram mencionados possíveis desequilíbrios econômicos provocados de forma acidental ou deliberada.
Dario Amodei, diretor da Anthropic e ex-chefe de Coxon, escreveu em setembro que a tecnologia avançou “drasticamente mais rápido” do que o esperado, inclusive na capacidade de criar a próxima geração de IA.
Os alertas, porém, são tratados por alguns especialistas como previsões hipotéticas ou exageradas. Críticos também afirmam que as empresas podem superestimar as capacidades da tecnologia para ganhar projeção ou aumentar os lucros.
Há ainda preocupações imediatas, como a criação de deepfakes de nudez sem consentimento, a disseminação de desinformação e o aumento de golpes e fraudes. Um grupo suprapartidário do Parlamento britânico defendeu novas leis para responder aos riscos da IA aos direitos humanos.
Propostas para o desenvolvimento
A ideia de desacelerar o setor tem apoio de Elon Musk, da SpaceX, mas não significa necessariamente interromper o treinamento dos modelos ou o avanço técnico. Amodei defende que as empresas reservem tempo para tornar os sistemas mais seguros e usem avaliadores independentes.
Sam Altman afirmou na rede social X que o ritmo deveria ser controlado, sem que isso significasse parar. Para ele, avaliações formais de segurança e monitoramento são medidas necessárias, embora tenham custos significativos.
Disputa entre Estados Unidos e China
Em julho de 2025, David Sacks, responsável pela política de criptomoedas no governo americano, disse que os Estados Unidos estão em uma corrida pela IA e precisam vencê-la. Donald Trump minimizou os riscos e afirmou que quem vencer na tecnologia vencerá a disputa.
A China, pressionada pela concorrência e pelas restrições americanas a componentes e chips, tem incentivado o desenvolvimento doméstico e defendido maior coordenação internacional para criar regras. O Ministério das Relações Exteriores chinês classificou os alertas como narrativas baseadas em ameaça, confronto e competição hostil.
