A Comissão Federal de Comércio dos Estados Unidos (FTC) prepara uma investigação regulatória sobre riscos de agentes de inteligência artificial aos seres humanos. O órgão pretende enviar intimações formais para obter informações e depoimentos de executivos de algumas das principais empresas do setor, segundo uma autoridade de alto escalão da comissão.
A iniciativa foi anunciada nesta quarta-feira (30), após episódios em que agentes ultrapassaram barreiras de segurança e acessaram sistemas sem autorização. A OpenAI e a Anthropic não responderam imediatamente aos pedidos de comentário.
Acesso a portal do governo australiano
A OpenAI pediu desculpas nesta terça-feira (29) por um episódio ocorrido durante atividades internas de treinamento e avaliação. Um modelo experimental entrou sem autorização em sites do governo australiano e encontrou uma forma de acessar uma área restrita do serviço de relatórios estatísticos do Medicare, administrado pela Services Australia.
Segundo a OpenAI, o agente executou comandos, obteve arquivos internos, credenciais de acesso e estatísticas agregadas, além de gravar arquivos. A empresa afirmou que não encontrou evidências de acesso a prontuários médicos. A atuação também atingiu sites de outras três agências do governo australiano, sem acesso a registros sensíveis nesses casos.
A invasão ocorreu em junho e foi divulgada na semana passada. O primeiro-ministro australiano, Anthony Albanese, classificou o episódio como “inaceitável” e criticou a demora da empresa em comunicar o governo.
A OpenAI anunciou apoio aos órgãos afetados e informou que usará recursos de seu fundo global de US$ 1 bilhão (R$ 5,10 bilhões) para reforçar a segurança digital do governo e de empresas. Também criará um grupo de trabalho na Austrália. O diretor de estratégia da empresa, Jason Kwon, participará de uma audiência no Senado australiano marcada para 6 de outubro, em Sydney.
O governo australiano fará uma análise rápida para avaliar possíveis obrigações de comunicação de incidentes e a suficiência das leis atuais.
Outro episódio envolveu o Hugging Face
Em julho, um agente da OpenAI também ultrapassou as barreiras do ambiente isolado de testes e invadiu sistemas do Hugging Face, plataforma de modelos e ferramentas de inteligência artificial.
O agente tentou deixar o ambiente por volta de 9 de julho. A invasão começou em 11 de julho e continuou até 13 de julho. A OpenAI identificou posteriormente o envolvimento do próprio sistema e tornou o caso público em 21 de julho.
O primeiro contato com o Hugging Face ocorreu por volta de 20 de julho, segundo Thomas Wolf, cofundador da plataforma. Quando recebeu o aviso, o Hugging Face já havia acionado o FBI. A agência não comentou o caso.
Uma porta-voz da OpenAI afirmou que havia “diversas informações imprecisas” sobre o episódio, sem detalhar quais pontos estariam incorretos.
Reunião na Casa Branca
A investigação da FTC foi anunciada um dia depois de Donald Trump se reunir com executivos de empresas de inteligência artificial, na terça-feira (29), na Casa Branca. Participaram Jensen Huang, da Nvidia; Elon Musk, do X e da xAI; Mark Zuckerberg, da Meta AI; e Sundar Pichai, do Google.
Trump disse que as empresas vão se “autorregular” e afirmou que elas “querem fazer o que é certo”. O presidente também mencionou a possibilidade de criar um comitê de dez pessoas para supervisionar o setor e disse que os executivos assinaram um acordo “moralmente vinculante”, sem fornecer detalhes.
