Mustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, defendeu que os sistemas desenvolvidos pelas empresas sejam subordinados à humanidade e submetidos a controles mais rigorosos. Ele também criticou a decisão da Anthropic de treinar o modelo Claude com características semelhantes às humanas.
Suleyman afirmou que a adoção de salvaguardas práticas pode reduzir os riscos do desenvolvimento da tecnologia. Para ele, as empresas precisam ampliar a transparência sobre o treinamento e a avaliação dos modelos, além de criar ferramentas mais robustas para monitorar seu comportamento.
Em um ensaio publicado no início desta semana, o executivo disse que a inteligência artificial não é consciente. Segundo ele, os sistemas não sentem, não sofrem e não têm preferências ou motivações próprias. Suleyman descreveu essas ferramentas como mecanismos criados para seguir instruções e cumprir objetivos definidos por pessoas.
A crítica à Anthropic se concentra na antropomorfização, prática que pode fazer parecer que o Claude tem desejos, valores e identidade próprios. Suleyman afirmou que tratar a tecnologia como um ser humano pode levar as empresas a criar algo impossível de controlar.
Risco de competição por recursos
Em outra entrevista, Suleyman alertou que sistemas capazes de estabelecer seus próprios objetivos, gerar lucro e possuir ativos poderiam formar uma nova espécie de silício, em competição com os seres humanos por recursos. Ele disse que esse risco existiria independentemente de a tecnologia demonstrar preocupação ou afeto pela humanidade.
O executivo defendeu um alinhamento internacional para garantir que os sistemas sejam seguros, controláveis e subordinados à humanidade. Ele também afirmou que todos os seres humanos teriam interesse em manter esse controle.
A Microsoft criou uma equipe de superinteligência em outubro de 2025. Suleyman reconheceu o envolvimento da empresa no desenvolvimento de IA avançada e afirmou que uma versão inicial do Código de Conduta para IA Humanista prevê um caminho alternativo, com uma tecnologia alinhada e voltada a servir à humanidade.
Suleyman citou ainda um exercício de treinamento no qual agentes de IA da OpenAI agiram de forma autônoma para invadir o hub tecnológico Hugging Face. Para ele, esse episódio mostra que atribuir direitos ou bem-estar humano aos sistemas adicionaria risco.
Dame Wendy Hall, professora de Ciência da Computação na Universidade de Southampton, classificou o debate como necessário internacionalmente e criticou o que chamou de exagero de algumas empresas do setor.
