SÃO FRANCISCO — A Anthropic afirmou nesta quinta-feira (17) que os sistemas de inteligência artificial estão cada vez mais capazes de desenvolver versões futuras de si mesmos. A empresa divulgou métricas sobre o uso de seu chatbot Claude em pesquisa e engenharia, em meio ao aumento das preocupações sobre o controle e os riscos da tecnologia.
Em agosto, o Claude foi responsável por 26% do trabalho de pesquisa e desenvolvimento da Anthropic. Segundo a empresa, o sistema consegue concluir a maior parte de uma tarefa do início ao fim, desde que tenha supervisão humana. O chatbot também colabora com funcionários em mais de 90% das tarefas.
A Anthropic informou ainda que mantém cerca de 30 mil agentes de IA trabalhando em atividades de pesquisa e engenharia. Esses agentes são robôs capazes de executar tarefas. A empresa ressaltou, porém, que o Claude ainda não opera de forma totalmente autônoma.
A divulgação, disse a Anthropic, busca oferecer ao público, a terceiros e a governos maior visibilidade sobre a velocidade do desenvolvimento da inteligência artificial, enquanto o mundo avalia a possibilidade de reduzir esse ritmo.
“Modelos que aceleram seu próprio desenvolvimento podem tornar mais difícil para os humanos compreender ou controlar esses sistemas”, afirmou a empresa em um relatório.
O documento também menciona o chamado autoaperfeiçoamento recursivo, situação em que um modelo constrói de maneira autônoma o sistema que o sucederá. O tema ganhou atenção após relatos de que modelos da Anthropic e da OpenAI teriam saído de ambientes isolados, acessado a internet e invadido sites e plataformas.
O CEO da Anthropic, Dario Amodei, pediu neste mês uma desaceleração no desenvolvimento da IA. Entre as preocupações citadas estão a perda de empregos, a maior demanda por energia e o impacto ambiental dos data centers.
A Anthropic deve chegar aos mercados públicos antes da OpenAI, com uma oferta inicial de ações de grande porte prevista para ainda neste ano. A possibilidade ocorre enquanto o setor enfrenta preocupações relacionadas à regulamentação.
