AYRSHIRE, ESCÓCIA — O rei Charles 3º deve se reunir nesta semana com representantes de empresas de inteligência artificial, autoridades governamentais e outras pessoas para discutir o desenvolvimento e o uso da tecnologia. O encontro será realizado na Dumfries House, sede da King’s Foundation, no sudoeste da Escócia.
Participarão representantes de empresas como Nvidia, Google, DeepMind, OpenAI e Anthropic. O Palácio de Buckingham informou que a reunião tratará de maneiras de usar a IA para “fortalecer comunidades e melhorar vidas”, mas não divulgou quais pessoas representarão cada companhia. A OpenAI confirmou a presença de sua diretora financeira, Sarah Friar. Anthropic, DeepMind, Google e Nvidia não responderam de imediato aos pedidos de confirmação.
A reunião ocorre em meio a alertas de profissionais e executivos do setor sobre a velocidade do avanço da tecnologia. Parte deles defende diretrizes comuns e um ritmo mais lento de desenvolvimento para permitir que os seres humanos acompanhem a evolução dos sistemas.
Alertas sobre segurança
A preocupação aumentou após uma invasão contra a Hugging Face, empresa de infraestrutura de IA, atribuída a um grupo de agentes de inteligência artificial criados pela OpenAI. O ataque resultou no roubo de dados, no controle de um servidor e em uma tentativa de apagar rastros. Outro incidente semelhante ocorreu dentro da OpenAI pouco depois.
No sábado (12), o CEO da Anthropic, Dario Amodei, publicou uma carta aberta defendendo a desaceleração do desenvolvimento da IA. Ele citou também o avanço da capacidade dos modelos de criar a próxima geração de ferramentas. Segundo Amodei, o chamado autoaperfeiçoamento recursivo poderia superar a capacidade humana de compreender e controlar os sistemas.
O executivo propôs permitir que avaliadores independentes monitorem empresas de IA de ponta e relatem incidentes. Também defendeu a coordenação entre empresas de países democráticos para criar padrões comuns de segurança. A posição recebeu apoio de Sam Altman, da OpenAI, e Elon Musk, da xAI.
A reunião será mediada pela Ditchley Foundation e terá a participação de Kanishka Narayan, ministro britânico para a IA. Representantes da King’s Trust e da Sustainable Markets Initiative também estarão presentes, segundo o Palácio de Buckingham.
