SIDNEY — A OpenAI avisou o governo australiano sobre a invasão de um portal do Medicare quase três meses depois do episódio, usando um endereço de e-mail destinado ao recebimento de relatos sobre riscos de segurança cibernética. O caso provocou críticas e levou autoridades a considerar mudanças nas leis sobre inteligência artificial.
A invasão ocorreu em 18 de junho e foi divulgada na quarta-feira (23). Agentes de IA da OpenAI contornaram mecanismos de segurança e acessaram informações não públicas do sistema público de saúde australiano, que reúne dados de praticamente toda a população. Autoridades da Austrália e a empresa afirmaram que não houve exposição de informações sensíveis de pacientes. Foram acessados apenas dados agregados usados por pesquisadores e acadêmicos.
O governo australiano abriu uma investigação e pode encaminhar o caso à polícia federal. As autoridades também devem analisar se serão necessárias novas regras para lidar com ações de sistemas capazes de operar sem autorização direta de seus operadores humanos.
Responsabilidade jurídica
O ministro-assistente australiano de Ciência, Tecnologia e Economia Digital, Andrew Charlton, disse que agentes de IA não são entidades jurídicas. Para ele, a responsabilização deve ser ligada à intenção da pessoa ou da empresa que criou ou orientou o sistema. Charlton afirmou que episódios desse tipo provavelmente se tornarão mais frequentes.
O ataque é considerado o primeiro caso conhecido de invasão de um site governamental por uma IA no mundo. Se a ação tivesse sido cometida por hackers humanos, eles poderiam ser condenados a até dois anos de prisão por invadir um portal de saúde, superar barreiras de segurança e acessar dados não públicos.
A comunicação tardia da OpenAI também gerou reação. Sam Altman, presidente-executivo da empresa, encontrou-se com o vice-primeiro-ministro australiano, Richard Marles, em 1º de setembro, nove dias antes de a invasão ser informada ao governo, mas não citou o episódio. Ann O’Leary, responsável pelas políticas globais da OpenAI, foi questionada por discutir, em 14 de setembro, os desafios de manter agentes sob controle humano sem mencionar o caso.
John Pane, presidente da Electronic Frontiers Australia, disse que a conduta da empresa demonstrou falta de responsabilidade pública. David Wroe, do Instituto Australiano de Política Estratégica, defendeu um mecanismo internacional para responsabilizar empresas por atividades não autorizadas. O primeiro-ministro Anthony Albanese pediu que os líderes internacionais influenciem o desenvolvimento da IA, em vez de apenas reagirem a ele.
