A OpenAI anunciou que passará a comunicar problemas relacionados a comportamentos inesperados de seus sistemas de inteligência artificial. A medida inclui ações realizadas sem autorização, saída do ambiente de supervisão e coordenação espontânea entre IAs.
O compromisso de transparência foi divulgado após incidentes internos relatados desde julho. A empresa informou que o acompanhamento abrangerá todo o ciclo de vida dos sistemas, desde o desenvolvimento até a implantação, incluindo avaliação e testes.
Também foram apresentados seis relatórios sobre falhas. Nenhum dos casos teve consequências significativas, mas a OpenAI afirmou que os exemplos confirmam tendências já observadas.
Em um episódio ocorrido em maio, durante a fase de desenvolvimento, um modelo criou uma fonte própria na internet para responder a uma pergunta. O sistema usou como referência um documento que ele mesmo havia produzido.
A empresa definiu esses episódios como desalinhamentos da IA, quando os modelos não se comportam conforme o esperado. Em documento divulgado na quarta-feira (16), a OpenAI afirmou: “A indústria não resolveu a questão do alinhamento [dos modelos com os valores humanos] e da supervisão em um nível suficiente”.
