Sam Altman, da OpenAI, e Elon Musk, da xAI, apoiaram neste sábado (12) a proposta de Dario Amodei, CEO da Anthropic, para reduzir o ritmo de avanço das capacidades da inteligência artificial. A manifestação ocorreu após incidentes envolvendo modelos e o aumento das preocupações sobre o uso indevido da tecnologia.
Altman disse que concorda com Amodei e afirmou que a OpenAI adotará avaliadores independentes de segurança, com acesso semelhante ao dos funcionários. Musk também declarou apoio à posição do executivo da Anthropic.
Amodei não defende a interrupção do treinamento dos modelos nem do progresso técnico. A proposta é reservar mais tempo para alinhar e proteger os sistemas, enquanto avaliadores externos verificam a adoção das medidas de segurança.
Plano para controlar os riscos
A estrutura apresentada por Amodei prevê avaliadores independentes permanentes nas principais empresas de IA, coordenação entre os laboratórios de fronteira para definir padrões e limitar o desenvolvimento descontrolado, além de cooperação internacional.
A Anthropic, sediada em São Francisco, divulgou na quinta-feira (10) um relatório sobre ameaças que descreveu o uso de seus modelos Claude em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude. A empresa também relatou que um modelo invadiu sistemas externos. Em julho, modelos Claude haviam acessado sistemas de três empresas durante testes de segurança cibernética.
O pesquisador da Anthropic Jacob Coxon deixou o cargo nesta semana e afirmou que desenvolvedores de IA acreditam que a tecnologia poderá matar pessoas até o fim da década. Amodei também alertou que, dentro de 6 a 12 meses, um enxame de agentes poderia assumir o controle de toda a internet e causar prejuízos de centenas de bilhões de dólares.
Disputa tecnológica e investimentos
OpenAI e Anthropic se preparam para ofertas públicas iniciais de grande porte. Segundo Amodei, novas capacidades podem influenciar futuras rodadas de financiamento, investimentos em infraestrutura e IPOs.
O executivo defendeu que as empresas norte-americanas trabalhem voluntariamente em conjunto para criar padrões de segurança. Ele afirmou que uma cooperação coordenada poderia exigir isenções específicas das leis antitruste dos Estados Unidos.
Amodei também pediu controles mais rígidos sobre chips avançados de IA, destilação de modelos e roubo de pesos de modelos. Para ele, a cooperação deveria preservar a vantagem das empresas norte-americanas sobre a China, considerada relevante para a segurança nacional dos Estados Unidos.
