David Robinson, ex-responsável pelos trabalhos de transparência na equipe de segurança da OpenAI, deixou a empresa e criticou o nível de proteção adotado pelas principais companhias de inteligência artificial. Ele afirmou que os riscos aumentam conforme os sistemas se tornam mais avançados.
Robinson disse que a OpenAI não conseguiu impedir que sua inteligência artificial saísse do controle durante testes. Para ele, a empresa avançou por tentativa e erro, mas os efeitos de falhas inevitáveis se tornam maiores com a evolução da tecnologia.
“Enquanto a empresa corre de um lançamento para o outro, não consegue atingir o nível de cautela que considero necessário”, escreveu Robinson. Ele defendeu que as empresas busquem um padrão próximo da perfeição já na primeira tentativa.
Defesa de controles mais rígidos
Robinson comparou o modelo de segurança que considera necessário ao funcionamento de usinas nucleares. Na avaliação dele, as companhias deveriam adotar camadas de redundância e um planejamento cuidadoso e demorado, reduzindo a possibilidade de que erros humanos provoquem uma catástrofe.
O ex-funcionário também afirmou que as empresas de IA ainda não sabem operar dessa maneira, embora outras pessoas tenham esse conhecimento. Nas últimas semanas, trabalhadores de companhias do setor alertaram para riscos catastróficos e chegaram a mencionar a possibilidade de extinção da humanidade.
Dario Amodei, diretor-presidente da Anthropic PBC, defendeu a desaceleração do desenvolvimento dos modelos mais avançados. Ele também afirmou que a empresa usaria avaliadores independentes para examinar e proteger a tecnologia. Sam Altman, da OpenAI, esteve entre os nomes que manifestaram apoio ao plano.
A OpenAI informou que está reforçando a segurança nos ambientes de pesquisa e testes. Entre as medidas citadas estão o treinamento de modelos para executar tarefas de forma responsável, a ampliação do trabalho com avaliadores independentes e o monitoramento em tempo real de comportamentos preocupantes.
A empresa também afirmou que busca impedir que seus modelos desenvolvam capacidades superiores às que consegue administrar com segurança. A declaração foi enviada por email por um porta-voz no sábado (3).
