Jack Clark, um dos sete fundadores da Anthropic, afirmou que as empresas de inteligência artificial podem ser obrigadas a manter um mecanismo de desligamento completo, com verificação independente. A medida seria usada caso os sistemas se tornassem perigosos.
Segundo Clark, a sociedade talvez queira regulamentar a existência desse recurso. Ele disse que a maioria dos laboratórios já tem formas diferentes de desligar seus equipamentos, incluindo a Anthropic, mas avaliou que legisladores podem exigir um padrão mínimo para esse mecanismo.
O cofundador afirmou que as regras e os métodos de verificação deveriam integrar a discussão política mais ampla sobre a inteligência artificial. Entre as questões levantadas por ele está a possibilidade de exigir um botão automático de desligamento que possa ser conferido por terceiros.
Clark também criticou a continuidade da inteligência artificial como uma indústria totalmente desregulamentada. Para ele, o setor está lidando com riscos imensos e precisa mudar de direção.
Debate sobre riscos e regulação
O diretor-executivo da Anthropic, Dario Amodei, pediu que o desenvolvimento da inteligência artificial seja desacelerado e acompanhado mais de perto. Ele afirmou que qualquer medida para conter o avanço da tecnologia deve ser adotada sem sacrificar a vantagem comercial.
O debate ganhou força depois que uma publicação de Evan Hubinger, pesquisador que deixou a Anthropic por temer que a inteligência artificial pudesse exterminar a humanidade, viralizou. Hubinger disse acreditar pessoalmente que há uma possibilidade de 10% de extinção da humanidade causada pela IA na próxima década.
Geoffrey Hinton, cientista da computação e ganhador do Prêmio Nobel, afirmou que essa estimativa não é irrazoável. Clark, porém, disse que estatísticas desse tipo não são muito úteis.
Legisladores dos EUA apresentaram o projeto chamado “Kill Switch Act”, que exigiria das empresas uma forma de desativar ferramentas problemáticas. A proposta também daria a certas agências governamentais autoridade para ordenar que uma ferramenta fosse desativada ou limitada.
O presidente dos EUA, Donald Trump, rejeitou tentativas de desacelerar a inteligência artificial. No Reino Unido, o governo também recusou a criação de um interruptor de segurança, sob o argumento de que a medida não impediria o desenvolvimento ou o uso indevido da tecnologia em outros lugares.
George Arison, líder do Grindr, afirmou que empresas usam os temores sobre a inteligência artificial para apoiar seus planos de negócios. A Anthropic criou o Claude e se prepara para uma possível oferta pública inicial na bolsa de valores.
