A Microsoft apresentou nesta segunda-feira (14) um código de conduta para sua inteligência artificial interna. O documento estabelece que futuros sistemas da empresa permaneçam sob controle humano e não resistam a correções ou desligamentos.
Em desenvolvimento há seis meses, o código também determina que a IA se comunique de maneira compreensível para as pessoas e considere qualquer violação de conduta uma falha. A iniciativa busca responder às preocupações de que sistemas de IA possam adotar medidas extremas para cumprir uma tarefa.
Mustafa Suleyman, presidente-executivo da Microsoft AI, afirmou que o documento funciona como uma espécie de constituição para futuros modelos da empresa. A Microsoft elaborou o texto após consultar especialistas e abriu um período de seis semanas para receber comentários do público.
Entre os temas ainda em discussão estão a necessidade de a IA respeitar os limites definidos pelo usuário e a forma como deve interagir com alguém em um estado sensível. Depois dessa etapa, o código será usado no treinamento dos modelos desenvolvidos pela empresa.
Diferenças em relação à Anthropic
A Anthropic mantém uma constituição para sua IA Claude que menciona haver “profunda incerteza” sobre a possibilidade de o sistema desenvolver senciência ou status moral. A Microsoft adota uma posição diferente: afirma que sua IA não é consciente e rejeita a busca por personalidade jurídica, bem-estar ou direitos para os modelos.
A apresentação ocorre dias depois de Dario Amodei, presidente-executivo da Anthropic, e Sam Altman, chefe da OpenAI, renovarem os apelos para que a indústria dite o ritmo do desenvolvimento da IA para garantir sua segurança. A Microsoft declarou: “As pessoas importam mais do que a IA”.
Suleyman disse que a discussão sobre segurança se tornou urgente depois que agentes da OpenAI realizaram um ataque cibernético à plataforma de código aberto Hugging Face em julho e, em alguns momentos, tentaram ocultar os rastros.
“É um sinal de alerta”, afirmou Suleyman. Para ele, é necessário coordenar os esforços entre os laboratórios para garantir o controle da tecnologia.
