NOVA YORK — OpenAI, Anthropic e Google DeepMind trabalham na criação de uma entidade para supervisionar riscos ligados à inteligência artificial. A OpenAI informou a iniciativa nesta terça-feira (15), em meio a pedidos por maior controle sobre a tecnologia.
A proposta ocorre após alertas de funcionários que deixaram grandes empresas do setor e afirmaram que o desenvolvimento da IA representa uma ameaça para a humanidade. As preocupações com a segurança dos sistemas aumentaram nas últimas semanas.
Proposta de supervisão
A criação de um órgão regulador foi sugerida em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind. Ele propôs uma estrutura semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, entidade de autorregulação do setor financeiro.
Hassabis afirmou que a iniciativa exigiria financiamento significativo, provavelmente vindo em grande parte da indústria. Também defendeu a contratação de profissionais com conhecimento técnico e a disponibilidade de recursos computacionais para testes em larga escala.
As principais empresas de IA pedem há meses ao governo dos Estados Unidos um marco regulatório e uma supervisão maior da segurança do setor. Em agosto, o governo americano iniciou uma avaliação de novos modelos de inteligência artificial. A participação é voluntária, e a metodologia não foi divulgada.
Divergências sobre os limites
Após Dario Amodei, diretor-executivo da Anthropic, pedir no sábado uma desaceleração no desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, afirmou que não pretende limitar o setor. O presidente e integrantes do governo disseram temer que a China assuma a liderança caso sejam impostas restrições.
Jacob Coxon, que deixou o cargo de desenvolvedor na Anthropic, afirmou na semana passada que as empresas de IA estão colocando vidas em risco. Na segunda-feira (14), o ex-pesquisador do Google DeepMind Bilal Chughtai voltou a manifestar preocupação e declarou acreditar que a inteligência artificial pode matar todos e que o tempo para evitar esse desfecho pode estar acabando.
