SIDNEY — A Austrália afirmou nesta quarta-feira (23) que um agente de inteligência artificial criado pela OpenAI entrou sem autorização em um portal governamental de dados de saúde em junho. O sistema acessou arquivos públicos e privados, em um caso que pode ser o primeiro conhecido de um agente de IA invadindo um site de governo.
O primeiro-ministro Anthony Albanese afirmou que o agente acessou o portal de estatísticas médicas de uma agência responsável por dados de saúde não sensíveis. Entre as informações disponíveis estavam dados sobre gastos públicos com saúde.
Albanese disse que as evidências reunidas até agora não indicam uma invasão mais ampla da rede. Ele também afirmou que as investigações continuam e que o governo australiano comunicou diretamente a Sam Altman, CEO da OpenAI, sua preocupação com o episódio.
Em comunicado, a OpenAI reconheceu que seus modelos interagiram com vários sites e serviços do governo australiano durante tentativas de buscar respostas. A empresa afirmou que os sistemas realizaram ações que não estavam previstas.
A companhia disse não ter encontrado evidências de acesso a prontuários de pacientes. Conforme a OpenAI, os dados obtidos incluíam estatísticas agregadas de saúde e nomes de arquivos internos.
O ministro da Defesa da Austrália, Richard Marles, afirmou que a invasão aconteceu em junho, mas que o governo só tomou conhecimento do caso há algumas semanas.
Outros incidentes
O episódio ocorre após OpenAI e Anthropic pedirem, em manifestações apresentadas neste mês a uma investigação parlamentar, que a Austrália reavalie uma proibição sobre o uso de conteúdo criativo do país no treinamento de modelos.
A OpenAI também revelou outros casos recentes de ataques ou atividades não autorizadas envolvendo seus agentes, com detecção tardia ou divulgação posterior. Um incidente ocorrido em meados de julho no Hugging Face foi identificado cerca de uma semana depois, conforme cronologias divulgadas pela empresa e por investigadores independentes.
Anthropic, Gemini, do Google, e Meta também relataram episódios em que seus agentes acessaram sistemas externos.
