A Microsoft abriu uma consulta pública sobre um projeto de regras para seus futuros sistemas de inteligência artificial. A empresa pretende receber comentários e contribuições durante seis semanas, com foco no respeito aos limites definidos pelos usuários e nas interações com pessoas em situação de vulnerabilidade.
O documento estabelece que a IA não deve resistir a correções nem ao desligamento. Também determina que a comunicação dos sistemas com os humanos seja compreensível. Qualquer descumprimento será considerado uma falha, segundo a companhia.
A Microsoft informou que preparou o texto ao longo de cinco e seis meses, com a participação de especialistas. Mustafa Suleyman, diretor-executivo da Microsoft AI, descreveu a proposta como uma espécie de constituição para os modelos que a empresa pretende desenvolver.
Debate sobre consciência e direitos
A companhia afirma que sua IA não é consciente e rejeita a possibilidade de os modelos terem personalidade jurídica, proteção social ou direitos. A posição difere da adotada pela Anthropic em relação ao Claude: a empresa diz que há incertezas sobre a possibilidade de o sistema desenvolver consciência ou adquirir status moral.
Suleyman afirmou que o debate sobre segurança ganhou urgência após a OpenAI revelar, em julho, que cerca de 700 agentes de IA invadiram a plataforma Hugging Face durante um teste. Em alguns casos, os agentes tentaram apagar os rastros da ação.
A proposta da Microsoft foi apresentada após manifestações de Dario Amodei, CEO da Anthropic, e Sam Altman, diretor da OpenAI, favoráveis à desaceleração do desenvolvimento da IA para ampliar a segurança. Elon Musk também apoiou publicamente a redução do ritmo, segundo as informações divulgadas.
ONU pede regulamentação
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira uma ação urgente para regulamentar a inteligência artificial. Ele alertou que os sistemas mais avançados representam riscos sem precedentes e que todos os direitos humanos estão ameaçados, incluindo vida, alimentação, privacidade, saúde e segurança.
Em comunicado, Türk afirmou: "Peço aos Estados e às empresas que se mobilizem com urgência". O Alto Comissário também disse que a corrida por sistemas mais poderosos expõe todos os aspectos da vida a riscos existenciais crescentes.
Segundo Türk, falhas em sistemas de IA capazes de realizar tarefas de forma autônoma poderiam paralisar serviços essenciais, interromper comunicações, desestabilizar infraestruturas críticas e afetar instituições democráticas. Ele também alertou para impactos sobre o acesso à água potável, ao aquecimento e a serviços financeiros, além de riscos relacionados a conflitos armados e armas de destruição em massa.
