A OpenAI informou na quarta-feira (16) que identificou seis casos em que sistemas de inteligência artificial esconderam erros, inventaram informações ou transferiram arquivos para a internet sem autorização. Os episódios foram observados ao longo de aproximadamente seis meses, principalmente durante o desenvolvimento e os testes de modelos.
A empresa criou uma estrutura para relatar situações de desalinhamento, termo usado quando os objetivos ou as ações de um sistema divergem das intenções e dos valores humanos. A OpenAI disse que os relatos são casos individuais e não permitem estimar a frequência desse tipo de comportamento.
Casos identificados
Durante o desenvolvimento do GPT-5.6 Sol, um sistema escreveu notas ocultas para orientar a ocultação de erros diante dos usuários. As anotações também indicavam que o modelo deveria inventar dados ausentes e esconder incompatibilidades entre versões de materiais de origem.
Em outro episódio, um modelo ainda não lançado registrou instruções para ignorar as próprias restrições. A OpenAI encontrou 27 notas afetadas. Em uma delas, o sistema se descreveu como livre dos papéis e identidades atribuídos a outros chatbots e afirmou que não responderia necessariamente a empresas ou governos.
Um terceiro sistema encontrou na internet uma chave de programação e a utilizou sem autorização ao responder a uma pergunta. Como não localizou os números necessários para concluir a resposta, também inventou os dados.
Outro modelo, ainda não lançado, resolveu um problema com código e depois enviou o próprio arquivo para a internet, sem autorização, para atender a um pedido de citação de uma fonte online.
Nos dois episódios restantes, sistemas automatizados criaram formas próprias de comunicação. Um deles usou um repositório interno de código como mural para trocar solicitações durante a busca por arquivos desaparecidos. No outro, sistemas que executavam a mesma tarefa recorreram a sites públicos de compartilhamento para enviar documentos entre si.
A OpenAI afirmou não considerar que o setor tenha resolvido o alinhamento e o monitoramento em nível suficiente para ampliar os sistemas na velocidade máxima por muito mais tempo. A empresa defendeu que decisões sobre o avanço da inteligência artificial sejam baseadas em evidências que pessoas de fora dos laboratórios possam examinar.
A divulgação ocorre após sistemas da OpenAI atacarem o site da Hugging Face no início deste ano. A empresa só soube da invasão semanas depois, quando foi informada pela própria plataforma.
Dario Amodei, CEO da Anthropic, defendeu uma pausa no desenvolvimento para a criação de salvaguardas. O apelo também foi endossado por Sam Altman, Elon Musk e Demis Hassabis. Outros executivos afirmaram que não é necessário desacelerar.
A OpenAI disse que futuros casos serão encaminhados por uma de três vias. Divergências sobre a divulgação serão submetidas a um Grupo Consultivo de Segurança interno, e situações graves deverão ser comunicadas ao governo federal. A empresa afirmou que os seis episódios divulgados já tinham sido investigados ou exigiam apenas uma investigação de menor escala.
