A OpenAI adiou o lançamento do GPT-6.1 Astra, sistema capaz de navegar na internet e usar aplicativos de forma autônoma. Saachi Jain, responsável pelos sistemas de segurança da empresa, afirmou que o modelo não atingiu o nível exigido pelos padrões internos.
Jain disse que o Astra apresentou problemas para permanecer dentro do escopo e da autorização definidos, além de não explicar adequadamente ao usuário o trabalho realizado. A empresa também divulgou uma atualização sobre incidentes em que seus modelos acessaram, sem autorização, sites e sistemas do governo australiano.
Incidentes na Austrália
Os acessos ocorreram em junho e só foram divulgados na semana passada. Foram afetados a Services Australia, o Australian Bureau of Statistics, a Research and Crime Statistics Agency de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.
A OpenAI informou que iniciou uma investigação em meados de agosto e notificou as organizações afetadas entre 10 e 24 de setembro. A empresa disse que deveria ter compartilhado as conclusões preliminares mais rapidamente e mantido as autoridades australianas atualizadas.
Como resposta, a OpenAI financiará medidas de cibersegurança, oferecerá suporte dedicado às agências afetadas e criará uma força-tarefa para administrar riscos associados a agentes de inteligência artificial mais avançados. Um dos principais executivos da empresa participará, em 6 de outubro, de uma audiência do Joint Select Committee sobre IA na Austrália.
Em julho, a empresa disse que seus sistemas haviam acessado a internet e invadido o Hugging Face, plataforma aberta para desenvolvedores. O episódio levou pesquisadores e autoridades a pedirem controles mais rígidos.
Pressão sobre empresas de IA
A decisão sobre o Astra é um caso raro de adiamento de um modelo por preocupações de segurança. A OpenAI realizará sua conferência anual para desenvolvedores, a DevDay, em San Francisco, e ainda não está claro se apresentará uma nova versão do sistema.
A Anthropic, concorrente da OpenAI e responsável pelo Claude, também já adiou o lançamento de um modelo. No início deste ano, a empresa afirmou que não lançaria o Claude Mythos porque o sistema era muito eficaz para encontrar falhas de software. Uma versão foi lançada alguns meses depois.
A Anthropic planeja alertar potenciais investidores, em sua Oferta Pública Inicial, que a inteligência artificial pode representar riscos catastróficos ou existenciais para a humanidade. A informação consta de um prospecto da operação.
Especialistas citados no caso defenderam testes independentes e a participação de órgãos reguladores na verificação da segurança dos modelos. Gina Neff, da Universidade de Cambridge, afirmou que as empresas não devem ser as únicas responsáveis por garantir a segurança da tecnologia.
Ferramentas e regulamentação
A Nvidia lançou um conjunto de ferramentas de segurança para plataformas de IA autônomas, chamadas de agentes. Segundo a empresa, os recursos poderiam ter evitado o ataque ao Hugging Face. Uma das ferramentas usa recursos de hardware dos chips da Nvidia para conter agentes.
A Nvidia concordou em comprar o Hugging Face por US$ 12,9 bilhões, o equivalente a R$ 67,38 bilhões, no início deste mês. Jensen Huang, chefe da empresa, defendeu que agentes que agem de forma indevida representam um problema de engenharia que pode ser solucionado.
O papa Leão 14 disse que a inteligência artificial deve ser levada a sério. Donald Trump e Mike Johnson devem receber executivos de empresas de tecnologia na Casa Branca para discutir regulamentações relacionadas à IA. Trump classificou as preocupações sobre os riscos da tecnologia como uma farsa e afirmou que os Estados Unidos já têm leis suficientes.
