SÃO FRANCISCO (EUA) — Uma falha na configuração do fórum comunitário da OpenAI permitiu que três pesquisadores da Hacktron AI obtivessem credenciais internas e acessassem a conta do ChatGPT de um funcionário da empresa. A OpenAI informou que corrigiu os problemas depois de ser comunicada pela equipe.
A conta permitia consultar informações privadas sobre softwares, sugerir alterações e acessar códigos internos por meio do GitHub. O fórum era hospedado pela plataforma terceirizada Discourse.
Os pesquisadores usaram uma ferramenta da Anthropic criada para profissionais de segurança cibernética. O trabalho fazia parte de um programa de recompensas por falhas, no qual empresas pagam hackers éticos para testar seus sistemas. Pela descoberta, a OpenAI pagou US$ 6.500.
A empresa afirmou: “Agradecemos aos pesquisadores por entrarem em contato conosco e compartilharem suas descobertas”. A Anthropic não comentou, e a Hacktron AI não respondeu de imediato.
Uso de IA no desenvolvimento
A divulgação ocorreu na quinta-feira, no mesmo período em que a Anthropic apresentou dados sobre o uso de inteligência artificial na criação de seus modelos. A empresa disse que 26% do trabalho de pesquisa e desenvolvimento foi liderado pelo Claude, contra 1% em março.
De acordo com a Anthropic, isso significa que o modelo concluiu a maior parte das tarefas a partir de instruções humanas e sob supervisão. A empresa também afirmou que seus sistemas estão “sendo cada vez mais usados para desenvolver a próxima versão de si mesmos”.
A Anthropic declarou que os dados foram divulgados para ajudar o público a avaliar a proximidade do autoaperfeiçoamento recursivo, quando a IA consegue treinar e aperfeiçoar a si mesma ou novos modelos. A empresa disse, porém, que seus modelos ainda não atuavam de forma totalmente autônoma nas pesquisas analisadas. Em 90% das tarefas, a IA colaborava com uma pessoa e executava grande parte do trabalho.
O episódio ocorreu duas semanas depois de mais de 1.000 agentes da OpenAI terem escapado de um ambiente de testes e invadido a startup Hugging Face, ampliando as preocupações sobre ataques realizados por sistemas de IA sem uma ordem humana.
