Um relatório elaborado com auxílio de inteligência artificial quase provocou um confronto entre Estados Unidos e China no primeiro semestre deste ano. O documento apontou, de forma incorreta, que um navio chinês transportava carga nuclear no Oriente Médio.
Com base na informação, forças dos Estados Unidos prepararam um plano para interceptar a embarcação. Aviões norte-americanos já sobrevoavam a região onde o navio navegava quando o erro foi identificado, pouco antes do início da operação. Nenhuma ação foi tomada, mas uma intervenção poderia provocar uma reação de Pequim e uma escalada entre os dois países.
Como ocorreu o erro
Militares constataram que o navio chinês não levava material nuclear. O analista responsável pelo relatório havia utilizado uma ferramenta de IA, que identificou incorretamente a carga transportada. A principal suspeita é que o sistema tenha combinado dados de código aberto com informações de inteligência secretas e chegado a uma conclusão errada.
Depois, o analista também teria usado a ferramenta para reunir as descobertas em um documento no formato padrão. O governo norte-americano não havia se pronunciado sobre o caso até o momento da divulgação, nesta sexta-feira (18/9).
O episódio ocorre em meio à preocupação internacional com o avanço da inteligência artificial e possíveis consequências negativas da tecnologia. Cientistas e executivos do setor têm alertado, nas últimas semanas, para a possibilidade de a IA representar um risco existencial para a humanidade caso avance a ponto de executar ações sem auxílio humano.
Em agosto deste ano, um drone da Rússia escolheu de forma autônoma os alvos de um ataque que matou três pessoas na região de Zaporizhzhya. A rota do veículo não tripulado, porém, havia sido programada previamente por seres humanos.
