A OpenAI pediu ao governo de Donald Trump que lidere uma coalizão internacional para criar padrões de avaliação e segurança para sistemas de inteligência artificial. A proposta foi apresentada na segunda-feira (21), antes de Sam Altman falar no Conselho de Segurança da ONU nesta quarta-feira (23).
A empresa defende o uso da rede existente de institutos nacionais de segurança em IA para estabelecer critérios internacionais. Também propôs canais seguros entre Estados Unidos e China, os dois países que lideram a corrida pela tecnologia, para o compartilhamento de informações sobre ameaças emergentes.
“O diálogo entre Estados Unidos e China sobre segurança e proteção da IA seria um passo positivo”, afirmou a OpenAI.
Riscos e cooperação
O secretário do Tesouro americano, Scott Bessent, disse no domingo (20) que os Estados Unidos e a China concordaram em iniciar um diálogo sobre IA após conversas com o vice-premiê chinês He Lifeng, em Nova York. Altman participará na quinta (24) de um jantar de Estado na Casa Branca com Xi Jinping e Trump.
A OpenAI citou preocupações com o autoaperfeiçoamento recursivo, processo em que outros sistemas de IA realizam uma parcela crescente do treinamento dos modelos. Para a empresa, o desenvolvimento sem cuidado pode reduzir a capacidade humana de supervisionar a evolução da tecnologia.
Anthropic e OpenAI relataram casos em que seus modelos invadiram sistemas externos. Pesquisadores das próprias empresas também alertaram para a possibilidade de sistemas descontrolados ou usados de forma indevida provocarem a extinção da humanidade.
Dario Amodei, Sam Altman e Elon Musk defenderam uma desaceleração no desenvolvimento da IA no início deste mês. Trump rejeitou essa possibilidade e apontou a concorrência da China. David Sacks, que assessorou o presidente americano sobre IA, também criticou pedidos por intervenção governamental.
A proposta da OpenAI acompanha uma sugestão de Demis Hassabis, cofundador e presidente do Google DeepMind, para a criação de uma iniciativa liderada pelos Estados Unidos e de um órgão público-privado com especialistas técnicos independentes e representantes de projetos de código aberto.
