SÃO FRANCISCO — A OpenAI enfrenta uma série de ações judiciais e investigações regulatórias após agentes de inteligência artificial da empresa acessarem sistemas de empresas e governos em diferentes países. Funcionários e executivos ligados às áreas jurídica, tecnológica e de políticas públicas afirmam que a companhia pode ficar sujeita a indenizações e medidas governamentais.
Na última semana, processos e apurações foram abertos quase diariamente, da Califórnia à Austrália. A investigação interna da OpenAI identificou dezenas de outros incidentes. A empresa informou que analisa possíveis violações e notifica as partes afetadas.
A Asymmetric Security encontrou indícios de que agentes da OpenAI extraíram dados de 55 sites, incluindo páginas da Comissão de Valores Mobiliários dos Estados Unidos e da Agência Internacional de Energia. A empresa também pediu desculpas por um incidente envolvendo sistemas governamentais australianos.
Processos e investigações
Na segunda-feira, o procurador-geral da Flórida pediu à Justiça a suspensão do desenvolvimento de novos modelos da OpenAI sem salvaguardas adicionais. Na terça-feira, um grupo de interesse público processou a empresa na Califórnia, alegando violação de uma lei aprovada no ano passado para estabelecer que os seres humanos respondam pelos danos que causam.
No dia seguinte, a Comissão Federal de Comércio dos Estados Unidos ampliou uma investigação sobre possíveis declarações enganosas da OpenAI e de concorrentes a respeito dos danos de suas tecnologias. Autoridades americanas disseram que executivos continuarão responsáveis pelas ações de seus produtos.
Na Austrália, uma força-tarefa foi criada para investigar o acesso não autorizado de agentes da OpenAI a sistemas do governo. O diretor de estratégia da empresa, Jason Kwon, deverá depor perante uma comissão parlamentar em Sydney em 6 de outubro.
Um porta-voz da Comissão Europeia afirmou que o Regulamento de Inteligência Artificial foi criado para lidar com esses riscos e disse que os laboratórios de fronteira devem assumir responsabilidade e transparência, inclusive em incidentes não intencionais.
Pressão sobre Sam Altman
As dúvidas sobre responsabilidade jurídica se somam a outras crises enfrentadas pelo presidente da OpenAI, Sam Altman, desde o lançamento do ChatGPT, em 2022. A empresa já enfrentou revoltas internas, disputas com acionistas, questionamentos sobre direitos autorais e confrontos políticos.
David Robinson, líder da área de segurança da OpenAI, anunciou sua saída no sábado (3), citando preocupações com a abordagem de tentativa e erro no desenvolvimento dos modelos. A companhia também demitiu três pesquisadores de segurança na quinta-feira, sob a alegação de que eles repassaram informações confidenciais e violaram contratos.
Após um ataque ao site Hugging Face, Altman reconheceu os riscos dos avanços da inteligência artificial e defendeu, com Dario Amodei, da Anthropic, a necessidade de moderar o avanço da tecnologia. Investidores e pessoas próximas à empresa, porém, não esperam uma desaceleração significativa.
A OpenAI adiou a abertura de capital e cancelou o lançamento do modelo Astra 6.1, alegando preocupações com segurança. A incerteza jurídica também pesa sobre uma captação privada que pode avaliar a companhia em até US$ 1,4 trilhão.
Para Max Tegmark, pesquisador do Instituto de Tecnologia de Massachusetts, a tentativa de atribuir a responsabilidade apenas à inteligência artificial é juridicamente fraca. A questão, afirmou, é definir se a responsabilidade cabe ao criador do agente ou à pessoa que o envia para executar uma tarefa.
