NOVA YORK — O pesquisador britânico Coxon defendeu uma desaceleração no desenvolvimento de sistemas de inteligência artificial e pediu que as empresas deem tempo para a criação de métodos de controle.
A declaração foi feita nesta segunda-feira (05), durante uma audiência com vereadores da Câmara Municipal de Nova York. Para Coxon, as companhias mais avançadas do setor não têm salvaguardas suficientes para impedir que os sistemas ajam de acordo com objetivos próprios, fora do controle dos desenvolvedores.
O pesquisador afirmou que a indústria tecnológica mantém uma cultura de avanço rápido, com correções posteriores. Na avaliação dele, essa abordagem pode funcionar para um aplicativo de compartilhamento de fotos, mas não para o desenvolvimento da tecnologia mais poderosa já criada.
Coxon também disse que desenvolvedores de IA acreditavam que a tecnologia poderia acabar com a humanidade antes do fim da década. Ele deixou a Anthropic e explicou a decisão em uma publicação no X, no início de setembro.
Embora reconheça que a inteligência artificial possa gerar benefícios enormes para a sociedade, o pesquisador afirmou que a trajetória atual aumenta a possibilidade de a humanidade perder o controle desses sistemas, com risco de extinção humana.
“Não acho que importe se o risco de catástrofe é de 1%, 10% ou 20%. Nenhum desses níveis é aceitável”, disse Coxon. Ele também declarou que esperar que os problemas ocorram antes de agir pode permitir que uma situação semelhante se repita.
A presidente da Câmara Municipal, Julie Menin, respondeu que afirmar não saber e não se importar com os riscos seria, na melhor das hipóteses, uma atitude descarada. Desde a declaração inicial de Coxon, funcionários e ex-funcionários de empresas de IA também manifestaram preocupações semelhantes.
