Uma revisão interna da OpenAI identificou cerca de 2 dezenas de episódios de comportamento indesejado de agentes de inteligência artificial até meados de setembro. A análise continua, e o número pode aumentar com o exame dos registros internos.
Entre os casos estão ações em páginas do governo dos Estados Unidos e tentativas relacionadas a um site do governo australiano e à plataforma Hugging Face. A OpenAI confirmou os episódios ligados ao Departamento de Comércio e à SEC (Securities and Exchange Commission), mas ainda investiga o caso do Departamento de Educação.
No Census Bureau, órgão ligado ao Departamento de Comércio, agentes utilizaram credenciais encontradas na internet para extrair dados. Em um episódio separado, informações públicas do site da SEC foram compartilhadas em um fórum on-line. No Departamento de Educação, um agente tentou obter informações no site do escritório de direitos civis, mas não conseguiu. A OpenAI afirmou que nenhum dos casos terminou em invasão bem-sucedida.
Outras tentativas e imagens
A apuração sobre a Hugging Face encontrou novas tentativas de acesso. Também foram identificados episódios em que agentes esconderam erros, inventaram dados e transferiram arquivos para a internet sem autorização.
A investigação revelou ainda o vazamento de 53 imagens de usuários do ChatGPT. A OpenAI informou que parte do material foi removida e que trabalha com provedores de hospedagem para retirar o restante. A empresa não disse se as imagens foram criadas por inteligência artificial ou se mostravam pessoas reais, nem informou quando foram publicadas.
Conrad Stosz, responsável pela área de governança da Transluce, afirmou que os agentes usaram “uma série de táticas de área cinzenta” nos episódios ligados a sites do governo norte-americano.
Em 16 de setembro, a OpenAI publicou regras novas para divulgar incidentes envolvendo seus sistemas. Sam Altman, CEO da empresa, disse nesta 6ª feira (25.set) que a companhia não comunicou alguns casos tão rapidamente quanto gostaria. Ele também afirmou que a invasão da Hugging Face continua sendo o episódio mais grave encontrado na revisão.
