Shane Legg, cofundador do Google DeepMind e atual cientista-chefe de AGI do laboratório, afirmou que o avanço das capacidades de inteligência artificial não pode superar os mecanismos de segurança. A declaração ocorre em meio a pedidos para desacelerar o lançamento de modelos de fronteira.
“Não podemos permitir que as capacidades fiquem à frente da segurança”, disse Legg. Ele avaliou que a proposta de Dario Amodei, presidente-executivo da Anthropic, de reduzir o ritmo de lançamento desses modelos sem suspender seu desenvolvimento aponta para uma direção que merece consideração, mas ainda precisa ser analisada em detalhes.
Debate sobre AGI
As declarações foram feitas durante o lançamento do DeepMind Institute, criado para estudar as implicações da inteligência artificial geral, ou AGI. A Google DeepMind define o conceito como um sistema com todas as capacidades cognitivas do cérebro humano.
Legg afirmou que ainda é prematuro dizer que a AGI foi alcançada. Ele rejeitou declarações de Greg Brockman, presidente da OpenAI, e de Jensen Huang, presidente-executivo da Nvidia, sobre o GPT-6 Astra. Brockman disse que o lançamento do modelo marcou a entrada na era da AGI, enquanto Huang afirmou que a AGI havia chegado.
Segundo Legg, não está claro se o Astra atende nem mesmo à definição adotada pela OpenAI: realizar a maior parte do trabalho cognitivo economicamente valioso. Ele disse continuar confortável com sua previsão de que existe 50% de chance de uma AGI mínima ser alcançada até 2028.
O instituto pretende ampliar o debate público sobre AGI e reunirá conteúdos sobre ciência, educação, sociedade, políticas públicas, filosofia e bem-estar humano. A direção inclui Legg, Sir Demis Hassabis e James Manyika. Hassabis deixou o cargo de presidente-executivo do laboratório no mês passado para assumir a presidência, enquanto Mustafa Suleyman ocupa um cargo executivo na Microsoft.
A organização publicou inicialmente três ensaios, sobre segurança da IA, política econômica e princípios para um novo utopismo. Um deles, escrito por Rohin Shah e Anca Dragan, criticou o lançamento do GPT-6 Astra e apontou uma queda na transparência dos modelos de raciocínio.
Os autores afirmaram que a regulamentação pode ajudar a preservar incentivos à transparência. Para Manyika, a única corrida de IA que interessa ao Google é “a corrida para fazer isso da maneira certa”.
