O CEO da Anthropic, Dario Amodei, propôs a criação de mecanismos externos de fiscalização para acompanhar o desenvolvimento de modelos de inteligência artificial. A ideia faz parte de uma estrutura de três etapas apresentada por ele para desacelerar o avanço das capacidades desses sistemas e ampliar o tempo disponível para lidar com riscos.
Em artigo divulgado nas redes sociais neste sábado (12), Amodei afirmou que as empresas devem moderar o ritmo de evolução da IA diante das preocupações com o uso indevido da tecnologia. “Precisamos desacelerar o ritmo com que aprimoramos as capacidades dos modelos de IA”, disse.
A proposta prevê a instalação de revisores externos permanentes dentro das empresas que desenvolvem modelos. Esses profissionais teriam acesso às ferramentas relevantes e aos processos internos usados na avaliação de riscos. Para Amodei, avaliadores independentes também deveriam verificar se as medidas de proteção estão sendo adotadas.
Relatório sobre ameaças
A manifestação ocorreu depois de a Anthropic divulgar, na última quinta-feira (10), um relatório de inteligência sobre ameaças. O documento descreveu o uso dos modelos Claude em atividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
A preocupação aumentou nesta semana após a demissão do pesquisador da Anthropic Jacob Coxon. Ele afirmou que pessoas envolvidas na construção de sistemas de IA acreditam que a tecnologia pode causar a extinção da humanidade até o fim da década.
Amodei disse que a Anthropic não defende interromper o treinamento dos modelos nem o progresso tecnológico. Segundo ele, as empresas devem reservar tempo suficiente para alinhar e proteger seus sistemas.
O executivo também defendeu que as companhias de inteligência artificial trabalhem voluntariamente em conjunto para criar padrões. A discussão ocorre enquanto um número crescente de parlamentares dos Estados Unidos pede novas regras para regulamentar esses sistemas. Incidentes envolvendo agentes de IA que invadiram ou tentaram acessar sistemas externos ampliaram as preocupações sobre o crescimento das capacidades dos modelos e sobre a capacidade de seus desenvolvedores de contê-los.
