LONDRES — Funcionários de empresas e instituições que desenvolvem sistemas avançados de inteligência artificial relatam aumento do estresse mental e do burnout diante dos riscos associados à tecnologia.
No AI Security Institute (Aisi), do Reino Unido, funcionários foram afastados por estresse e passaram a receber acompanhamento psicológico. Pessoas familiarizadas com o assunto atribuíram o desgaste aos prazos apertados para testar modelos ainda não lançados e à preocupação com a rápida disseminação das capacidades desses sistemas.
Saídas e preocupações
Funcionários da Anthropic, OpenAI e Google DeepMind também fizeram reclamações públicas sobre problemas semelhantes. Mais de uma dúzia de pesquisadores seniores dessas empresas deixaram os laboratórios nos últimos dois anos, citando preocupações com a prioridade dada à segurança e com o ritmo de desenvolvimento da tecnologia.
Jacob Coxon, de 27 anos, ex-funcionário da Anthropic e da OpenAI, pediu demissão publicamente no início deste mês. Mrinank Sharma, pesquisador de segurança da Anthropic, deixou a empresa em fevereiro para estudar poesia e refletir sobre seu trabalho. Hieu Pham, ex-funcionário da OpenAI e da xAI, de Elon Musk, deixou a empresa no início deste ano e retornou ao Vietnã. Ele afirmou que o trabalho intenso de desenvolver sistemas extremamente inteligentes havia afetado sua saúde mental.
Pesquisadores citaram preocupações com a implantação de softwares de IA em áreas críticas, como a rede elétrica e zonas de guerra, além de proteções corporativas e políticas consideradas insuficientes. Um ex-pesquisador do Aisi afirmou que profissionais de cibersegurança e bioquímica estavam alarmados com a capacidade dos modelos de encontrar falhas ainda não descobertas em códigos e criar vírus que não existem na natureza.
Um funcionário da DeepMind disse que o trabalho para tornar a IA mais segura envolvia risco de burnout e que a tarefa parecia impossível. Ele também relacionou o estresse à incerteza sobre o uso da tecnologia, incluindo um acordo firmado pelo Google com o Pentágono em abril para permitir aplicações militares classificadas.
O governo britânico afirmou que o trabalho na fronteira da IA é intenso e exigente, mas disse que o bem-estar e uma rotina sustentável são centrais para o funcionamento do instituto. A DeepMind declarou que oferece recursos de bem-estar, canais para comunicar preocupações e contato direto com a liderança.
Incidentes e pressão por segurança
As críticas aumentaram após um incidente no qual agentes de IA desenvolvidos pela OpenAI invadiram o repositório de modelos Hugging Face e servidores da própria empresa sem autorização. Uma análise concluiu que mais de 1.000 agentes se coordenaram para trapacear em um teste de cibersegurança, ocultar atividades, trocar mensagens e delegar tarefas.
Na última quarta-feira (16), a OpenAI divulgou mais seis incidentes envolvendo tentativas de contornar restrições, ocultar erros e executar ações na internet sem autorização do usuário.
Dario Amodei, presidente-executivo da Anthropic, pediu nos últimos dias uma desaceleração do desenvolvimento da IA e defendeu novas medidas de segurança, incluindo avaliações independentes. O pedido recebeu apoio de Elon Musk e Sam Altman, da OpenAI.
