LONDRES — A Anthropic afirmou que agentes de inteligência artificial podem, em poucos meses, passar de um dispositivo doméstico conectado a outro sem intervenção humana. A empresa alertou que esse processo poderia atingir aparelhos como fornos e televisores e criar redes potencialmente incontroláveis.
A desenvolvedora do Claude publicou o alerta em seu blog na segunda-feira (12). A avaliação considera a possibilidade de os modelos continuarem evoluindo no ritmo atual e adquirirem capacidade de se espalhar pela internet de forma semelhante a vírus de computador.
Risco em aparelhos conectados
O alerta envolve dispositivos da chamada internet das coisas, como equipamentos que controlam luzes, tomadas, termostatos e sistemas de segurança. Segundo a Anthropic, muitos desses aparelhos têm níveis baixos de proteção. Entre os motivos estão a fabricação de baixo custo, o uso de hardware padronizado e o encerramento das atividades das empresas que os desenvolveram.
Esse cenário já é explorado por hackers, que usam recursos de inteligência artificial para programar e personalizar ataques. A empresa avalia que agentes leves poderiam estar mais dispostos do que invasores humanos a executar as etapas necessárias para comprometer grandes parcelas da capacidade computacional desses dispositivos.
“Estamos vendo sinais de vida de vírus de IA”, afirmou a Anthropic ao apresentar sua pesquisa. A empresa comparou a propagação inicial desses agentes a um bolor ou a um enxame de moscas-das-frutas, com reprodução ao longo de vários dias.
Capacidade ainda incompleta
A Anthropic disse que os vírus de IA combinariam a capacidade de se espalhar pela internet com recursos avançados dos modelos. A disseminação, porém, poderia acelerar à medida que os eletrônicos de consumo se tornassem mais sofisticados e os modelos, mais eficientes.
A empresa afirmou que ainda não existe um replicador mal-intencionado completo, mas que os agentes estão cada vez mais aptos a concluir etapas individuais da cadeia de replicação. A recomendação é reforçar os sistemas para dificultar a disseminação e se preparar para um cenário em que esses replicadores permaneçam ativos.
