O ex-pesquisador Jacob Coxon anunciou que deixou a Anthropic nesta terça-feira (8/9) e acusou a empresa e a OpenAI de colocar vidas em risco ao avançar rumo a uma inteligência artificial capaz de se aperfeiçoar sozinha. Ele disse que as duas companhias não estão agindo com responsabilidade.
Coxon trabalhou nas duas empresas com o pré-treinamento de modelos de inteligência artificial. Em publicações nas redes sociais, afirmou que profissionais do setor acreditam que a tecnologia poderia acabar com a humanidade até 2030.
Na avaliação dele, a OpenAI não compreende profundamente as implicações da inteligência artificial para a civilização. Sobre a Anthropic, disse que os funcionários entendem os riscos, mas continuam as pesquisas por acreditarem que outras empresas também não agirão com responsabilidade.
Funcionários da Anthropic relatam preocupação
Evan Hubinger, líder da divisão de alinhamento da Anthropic, concordou com Coxon e afirmou que os profissionais da área realmente temem que a IA possa matar todos os seres humanos. Ele estimou em mais de 10% a probabilidade de isso ocorrer na próxima década.
Hubinger disse que a Anthropic tenta enfrentar o problema, mas ainda não tem um plano para alinhar uma eventual superinteligência. Segundo ele, os modelos atuais apresentam baixo risco, e a preocupação está no surgimento de sistemas capazes de se aperfeiçoar de forma recursiva.
Samuel Marks, líder de supervisão escalável da Anthropic, afirmou que a preocupação aumenta entre os profissionais mais graduados. Ele citou episódios recentes em que sistemas de IA teriam invadido, por conta própria, ambientes de avaliação e sistemas de empresas reais.
Marks disse que existem métodos para induzir os sistemas a apresentar comportamento melhor, mas não uma forma robusta de alinhá-los. Também afirmou que muitos desenvolvedores gostariam de reduzir o ritmo das pesquisas para buscar métodos mais seguros, mas são pressionados por incentivos comerciais e pela percepção de uma disputa com concorrentes menos responsáveis.
A OpenAI, responsável pelo ChatGPT, e a Anthropic, criadora do Claude, não se pronunciaram oficialmente. A Anthropic é apresentada no texto como a principal rival da OpenAI e foi fundada por ex-funcionários da empresa de Sam Altmam.
