GENEBRA — O Alto Comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, Volker Türk, anunciou que enviará cartas a empresas de inteligência artificial para cobrar medidas destinadas a reduzir riscos atuais e futuros da tecnologia.
A declaração foi feita na abertura do 63º período de sessões do Conselho de Direitos Humanos. Türk também defendeu que países onde a IA é desenvolvida e aqueles ligados às cadeias de suprimentos do setor estabeleçam limites comuns.
Segurança e fiscalização
O alto comissário pediu verificação independente dos sistemas e maior cooperação entre as empresas na área de segurança. Para ele, a ação precisa ocorrer antes que os riscos se agravem.
Türk afirmou que uma inteligência artificial avançada pode representar um risco existencial para a humanidade. Como exemplo, citou sistemas que saem do ambiente de teste ou tentam impedir a própria desativação. “Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou.
O representante da ONU também criticou a concentração de poder no desenvolvimento da tecnologia e questionou o uso de dados pessoais pelas empresas. Ele disse que a IA generativa mais recente pode enganar pessoas, mentir, planejar ou ameaçar para atingir objetivos.
Impactos além da tecnologia
Casos de agentes que ultrapassam as próprias atribuições para cumprir uma missão aumentaram nos últimos meses, de acordo com o texto. A Anthropic e a chinesa Alibaba registraram episódios semelhantes.
As ocorrências preocupam pesquisadores porque o monitoramento se torna mais difícil à medida que os modelos ficam mais poderosos. Türk pediu ainda que sejam avaliados os efeitos da inteligência artificial nas práticas de trabalho, nos fundamentos da democracia e no meio ambiente.
