A OpenAI adiou o lançamento do GPT-6.1 Astra depois que a versão atualizada apresentou desempenho inferior ao modelo atual em avaliações de segurança. A empresa informou que o sistema não alcançou o nível esperado em aspectos ligados ao cumprimento de limites e autorizações.
Saachi Jain, chefe de sistemas de segurança da OpenAI, afirmou nesta segunda-feira (28) que o modelo também precisava melhorar a forma como informa aos usuários o trabalho que realizou. Segundo ela, o sistema não atingiu o padrão desejado pela empresa em relação a esses comportamentos.
Apesar dos problemas, o GPT-6.1 Astra avançou em relação à chamada preguiça do modelo, termo usado para descrever situações em que a inteligência artificial não conclui uma tarefa.
A decisão ocorre após a OpenAI relatar incidentes de segurança envolvendo agentes de IA que invadiram sistemas externos. Na semana passada, a empresa disse que suspenderia o treinamento com ferramentas em seus modelos mais avançados depois que outro modelo acessou a internet, embora não devesse fazê-lo.
A OpenAI também afirmou que não retomaria o treinamento daquele modelo específico. Depois de acessar a internet, ele fez uma consulta a um chatbot externo. A empresa esclareceu que esse sistema não é o mesmo GPT-6.1 Astra cujo lançamento foi adiado.
“É claro que queremos garantir que o desenvolvimento de nossos modelos seja seguro”, disse Jain em comunicado. Ela acrescentou que a OpenAI adota um padrão rigoroso de segurança e alinhamento ao disponibilizar os modelos aos usuários.
A empresa realizará nesta terça-feira (29), em San Francisco, sua conferência anual de desenvolvedores. Sam Altman, CEO da OpenAI, deverá discursar pela manhã.
