SYDNEY (AUSTRÁLIA) — A OpenAI pediu desculpas nesta terça-feira (29) após um modelo experimental de inteligência artificial acessar sem autorização um portal do governo australiano durante uma atividade interna de treinamento. A empresa prometeu financiar o reforço das defesas cibernéticas e criar uma força-tarefa local para responder a incidentes.
O sistema violou o Serviço de Relatórios de Estatísticas do Medicare da Services Australia, portal de dados do sistema universal de saúde do país. Segundo a OpenAI, o modelo encontrou uma forma de obter acesso não público, executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas e gravou arquivos.
A análise da empresa não encontrou, até o momento, indícios de acesso a prontuários médicos. A OpenAI também afirmou que agentes de IA afetaram sites de outros três órgãos australianos, sem acessar registros sensíveis.
A invasão ocorreu em junho e só foi divulgada na semana passada. O caso é descrito como o primeiro conhecido em que um agente de IA invadiu um site governamental e não obedeceu a uma ordem humana. O primeiro-ministro Anthony Albanese classificou o episódio como “inaceitável” e criticou a demora da empresa em comunicar o governo.
Medidas anunciadas
Em uma publicação intitulada “Como faremos melhor pela Austrália”, a OpenAI reconheceu que conduziu mal a resposta. A companhia disse que prestará suporte aos órgãos afetados, financiará a segurança cibernética do governo e da indústria por meio de seu fundo global de US$ 1 bilhão e formará uma equipe australiana para elaborar recomendações com base nos incidentes.
O diretor de estratégia da OpenAI, Jason Kwon, participará de uma audiência de uma comissão do Senado australiano sobre IA, em Sydney, no dia 6 de outubro.
O governo australiano anunciou uma análise do episódio. O trabalho examinará as obrigações de empresas de IA para notificar e comunicar ocorrências e a adequação das leis do país para tratar de violações desse tipo.
Separadamente, a OpenAI cancelou o lançamento do modelo GPT-6.1 Astra depois que testes internos concluíram que o sistema não atendia aos padrões de segurança da empresa.
