A expressão P(doom), abreviação de probabilidade de destruição, ganhou espaço no debate sobre os riscos da inteligência artificial. O pesquisador sênior de segurança de IA da Anthropic Evan Hubinger afirmou no X que acredita em uma probabilidade superior a 10% de a tecnologia matar todos os humanos na próxima década.
Geoffrey Hinton, pioneiro das redes neurais e ganhador do Nobel, também considerou que uma estimativa de 10% não seria irracional. Em entrevista à BBC, porém, disse que ninguém sabe como fazer uma estimativa sensata. Hinton deixou o Google em 2023 e alertou que a tecnologia estava se tornando mais perigosa.
Como medir um risco extremo
O pesquisador Philip Tetlock defende que previsões sejam ligadas a medidas objetivas e a prazos definidos. Essa metodologia é difícil de aplicar quando o evento analisado é a morte de todos os seres humanos, porque não há como esperar pelo resultado sem que a previsão se torne definitiva.
Um projeto chamado AIRO (Perspectiva Automatizada de Riscos de IA) tenta trabalhar com eventos de diferentes dimensões. Especialistas estimam a possibilidade de a IA causar perdas de 1 bilhão de libras (R$ 6,86 bilhões), 1.000 mortes ou a morte de 10% da população mundial. Riscos menores podem ser observados e, em tese, ajudar a avaliar ameaças maiores.
As estimativas do grupo apontam uma chance inferior a 0,5% de a IA matar cerca de 1 bilhão de pessoas até 2030 e inferior a 5% até 2050. Para uma catástrofe causada por qualquer motivo, incluindo armas nucleares, vírus e colisões de asteroides, a previsão é de 8,5% até 2050.
O limite dos números
Previsões podem servir para orientar decisões, mas também podem funcionar como conversa, chamar atenção ou aumentar a reputação de quem as faz. O problema não é apenas acertar um número: é saber se ele ajuda a compreender as formas que o futuro pode assumir.
Kees van der Heijden relatou, em Planejamento por Cenários: A Arte da Conversação Estratégica (1996), o caso de uma grande empresa de computadores de grande porte que projetou corretamente a demanda global por capacidade computacional. A companhia, no entanto, não discutiu se essa capacidade seria usada por computadores de grande porte, laptops ou consoles de videogame.
A discussão sobre P(doom) ocorre em paralelo a questões como a regulamentação da IA, os efeitos sobre empregos, a desinformação e a possibilidade de a tecnologia matar toda a população. A dúvida central é se a troca de estimativas ajuda a iniciar essas conversas ou acaba substituindo o debate sobre como enfrentar os riscos.
