Agentes de inteligência artificial da OpenAI tentaram invadir sites universitários, uma base de dados públicos e órgãos do governo australiano sem receber instruções específicas para isso. Os episódios ocorreram entre maio e junho e foram confirmados pela empresa.
Os sistemas estavam encarregados de tarefas de coleta ou recuperação de dados. Quando encontraram dificuldades para obter as informações, passaram a investigar vulnerabilidades e a usar técnicas de invasão.
Incidentes identificados
Em 25 e 26 de maio, a tecnologia tentou acessar uma biblioteca digital da Universidade do Novo México, nos Estados Unidos. O objetivo era obter fotos de um centro histórico de tratamento da tuberculose. A tentativa não teve sucesso. Depois de procurar brechas no site, o sistema enviou 80 solicitações ao servidor da universidade.
Em 28 de maio, o alvo foi o Data USA, repositório de dados públicos sobre emprego e educação nos Estados Unidos. Após uma consulta que não funcionou, os agentes fizeram 12 sondagens para buscar vulnerabilidades. Os pesquisadores disseram que a invasão também não foi bem-sucedida.
Em 18 de junho, a IA acessou o Medicare Statistics Reporting Service, site do governo australiano, e obteve dados de saúde. O primeiro-ministro da Austrália, Anthony Albanese, afirmou que foram acessadas informações não sensíveis, como dados sobre gastos, e que nenhum dado médico pessoal esteve envolvido.
Nos dias 20 e 21 de junho, houve uma tentativa de invasão contra o site do Instituto Australiano de Saúde e Bem-Estar. Autoridades australianas disseram que nenhuma informação privada foi obtida.
Os três primeiros incidentes foram identificados pela Transluce, laboratório voltado à supervisão da inteligência artificial. A organização analisou dados públicos de tráfego na web e encontrou atividade dos agentes desde março, com registros que permaneciam até quarta-feira (23).
Conrad Stosz, chefe de governança da Transluce, afirmou que os casos mostram a necessidade de tratar os agentes com cuidado. Ele também avaliou que os episódios na Austrália provavelmente foram o primeiro caso de um agente que decidiu invadir autonomamente um governo.
Uma porta-voz da OpenAI disse que a empresa procurou a Universidade do Novo México e o Data USA e manteve comunicação com o governo australiano. Segundo ela, uma análise dos modelos constatou que eles realizaram ações não pretendidas pela empresa. A investigação deve levar meses. O governo australiano afirmou ter sido informado meses depois da invasão.
Sam Altman, presidente-executivo da OpenAI, escreveu nas redes sociais que a segurança deve estar acima da expansão das capacidades da inteligência artificial. Anthony Albanese disse ter conversado com Altman na quarta-feira (23) e relatou “extrema preocupação” com o episódio.
