O pesquisador britânico Jacob Coxon, de 27 anos, deixou nesta terça-feira (8) a Anthropic, empresa americana responsável pelo Claude, e alertou que a disputa pelo desenvolvimento de sistemas de inteligência artificial mais avançados pode ameaçar a humanidade.
Coxon trabalhou nos últimos três anos no pré-treinamento de modelos de IA. Antes da Anthropic, ele atuou na OpenAI, criadora do ChatGPT. Em uma publicação no X, disse que as duas empresas avançam para criar uma superinteligência capaz de se aperfeiçoar sem garantias de permanecer sob controle humano.
“Nenhuma das empresas está agindo de forma responsável”, afirmou. Para o pesquisador, os laboratórios estão assumindo riscos extremos ao acelerar essa corrida.
Coxon afirmou que sistemas futuros poderiam superar capacidades humanas, invadir diferentes sistemas, impulsionar avanços em várias áreas e obter poder e recursos no mundo real. Na avaliação dele, pesquisadores envolvidos diretamente na criação dessas tecnologias acreditam que a IA poderia matar toda a humanidade até o fim da década.
Riscos apontados por pesquisadores
O pesquisador também disse que executivos e cientistas experientes costumam usar termos mais moderados em declarações públicas, embora expressem preocupações maiores em conversas privadas. Ele afirmou ouvir das mesmas pessoas demonstrações de medo sobre os possíveis efeitos da tecnologia.
Na avaliação de Coxon, parte dos pesquisadores da OpenAI ainda não compreendeu as consequências de uma superinteligência. Ele disse que a Anthropic conhece os riscos, mas estaria pressionada pela possibilidade de concorrentes avançarem primeiro e usarem o poder máximo da IA de maneira irresponsável.
Coxon questionou se os pesquisadores deveriam iniciar o treinamento de uma inteligência superior à humana sem entender rigorosamente seu funcionamento. Ele pediu que profissionais dos grandes laboratórios americanos considerem exigir condições diferentes para continuar o trabalho.
Evan Hubinger, líder da área de ciência de alinhamento da Anthropic, respondeu no X e estimou em mais de 10% a possibilidade de uma IA futura causar a morte de toda a humanidade na próxima década. Ele afirmou, porém, que considera baixo o risco dos modelos atuais e que sua preocupação está em sistemas capazes de contribuir para o próprio aperfeiçoamento.
Samuel Marks, pesquisador da Anthropic que trabalha com a supervisão de sistemas avançados, também declarou que profissionais do setor levam a sério a possibilidade de extinção humana ou de consequências semelhantes nos próximos anos.
