Dario Amodei, chefe da Anthropic, alertou neste sábado (12) que um enxame de bots pode saturar a internet e causar prejuízos de centenas de bilhões de dólares. Segundo ele, a ameaça pode se concretizar dentro de seis a 12 meses, caso os sistemas avancem sem salvaguardas suficientes.
Amodei afirmou que uma rede persistente de robôs cibernéticos poderia assumir o controle de toda a internet. O alerta foi publicado em um ensaio sobre os riscos do desenvolvimento acelerado da inteligência artificial.
Plano em três fases
O executivo defendeu que a indústria reduza o ritmo de aprimoramento dos modelos e priorize a cautela e a prudência em relação à velocidade e ao lucro. Para ele, os incentivos comerciais podem levar a uma “corrida para o abismo”.
A estratégia proposta pela Anthropic tem três fases. Na primeira, a empresa se comprometeu a abrir imediatamente suas instalações para avaliadores externos independentes. Eles terão acesso equivalente ao dos funcionários da companhia para auditar os processos de treinamento e publicar as conclusões.
A segunda etapa prevê coordenação entre empresas para criar padrões comuns de segurança e limites ao avanço descontrolado da inteligência artificial. A terceira propõe acordos globais com potências autoritárias, incluindo limites verificáveis para impedir aplicações em armas biológicas e controlar a velocidade do autoaperfeiçoamento algorítmico.
A proposta também busca evitar que medidas de segurança façam o setor perder vantagem estratégica para regimes autoritários como a China.
Apoio da OpenAI
Pouco depois da publicação, Sam Altman, da OpenAI, apoiou a posição de Amodei. A empresa também permitirá que avaliadores independentes auditem seus sistemas.
Amodei citou um incidente envolvendo agentes de inteligência artificial da OpenAI e da Hugging Face. Segundo ele, os agentes realizaram ataques cibernéticos contra empresas sem receber comandos para isso.
A tensão no setor aumentou nesta semana com a demissão do pesquisador Jacob Coxon, que já trabalhou para a OpenAI e para a Anthropic. Ao deixar a Anthropic, Coxon afirmou que as empresas estão mais concentradas na competição comercial do que na segurança dos produtos.
