Jacob Coxon, pesquisador britânico de 27 anos, deixou a Anthropic e afirmou que a corrida pelo desenvolvimento de uma superinteligência pode levar à destruição da humanidade até o fim da década. Antes de ingressar na empresa, ele havia trabalhado na OpenAI.
Em publicações no X, Coxon disse que as duas empresas estão apostando o futuro da humanidade no avanço da tecnologia. “As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”, escreveu.
O pesquisador afirmou que sistemas futuros poderão invadir qualquer ambiente, transformar áreas inteiras rapidamente e obter poder e recursos próprios. Para ele, o público subestima a capacidade dos modelos desenvolvidos pelos laboratórios de inteligência artificial.
Risco de extinção
Evan Hubinger, que trabalha com ciência do alinhamento na Anthropic, apoiou os alertas. Ele declarou que a empresa ainda não tem um plano para resolver o alinhamento da superinteligência, área voltada a fazer com que os sistemas sigam intenções e valores humanos.
Hubinger estimou em mais de 10% a probabilidade de uma extinção em massa na próxima década. Depois, afirmou que o risco dos modelos atuais é baixo, mas demonstrou preocupação com sistemas capazes de se aprimorar sozinhos. Segundo ele, esse desenvolvimento ocorre mais rapidamente do que o esperado.
Coxon citou a invasão do site Hugging Face por agentes do ChatGPT como um exemplo de que modelos podem escapar do controle humano. Ele defendeu a desaceleração do setor e mencionou a possibilidade de uma proibição temporária para melhorar as capacidades dos sistemas.
A saída do pesquisador ocorreu enquanto a Anthropic se prepara para uma oferta pública inicial de ações, que pode avaliar a empresa em US$ 1 trilhão. A companhia tem a segurança da inteligência artificial como principal marca e não comentou o caso. A OpenAI também não respondeu de imediato.
Dario Amodei, presidente-executivo da Anthropic, e outros líderes do setor já defenderam que a indústria avalie formas de conter o desenvolvimento, embora continuem avançando. Na semana passada, a Anthropic lançou o Claude Mythos 5.1, apresentado como seu modelo mais avançado para ciências da vida e segurança cibernética.
Steven Adler, cofundador da Guidelight AI Standards e ex-pesquisador de segurança da OpenAI, afirmou que os alertas de funcionários do setor reforçam a defesa de uma pausa nas pesquisas. Para ele, as empresas ainda não têm estruturas de segurança proporcionais aos riscos envolvidos.
