A OpenAI afirmou que pode interromper treinamentos ou suspender modelos quando for necessário reduzir o ritmo de desenvolvimento. A declaração foi dada após críticas de David Robinson, ex-funcionário da área de segurança da empresa, sobre os riscos associados ao lançamento acelerado de sistemas de inteligência artificial (IA).
"Pausamos o treinamento ou suspendemos os modelos quando precisamos diminuir o ritmo", disse um porta-voz da OpenAI. A empresa também afirmou buscar evitar que seus modelos se tornem mais avançados do que consegue administrar com segurança.
Críticas ao desenvolvimento acelerado
Em artigo publicado neste sábado (3) na revista americana The Atlantic, Robinson escreveu que as empresas de IA, incluindo a OpenAI, não adotam cuidados suficientes. Segundo ele, a velocidade dos lançamentos aumenta a possibilidade de falhas e reduz o espaço para especialistas em segurança e pesquisas antes do desenvolvimento de sistemas mais avançados.
Robinson criticou ainda a chamada implantação iterativa, prática da OpenAI de lançar sistemas e ampliar as medidas de segurança conforme os problemas aparecem. Para ele, o período de tentativa e erro terminou, e sistemas avançados de IA deveriam ter medidas semelhantes às usadas nos setores de energia nuclear e aviação.
O ex-funcionário afirmou ter trabalhado por três anos e meio na OpenAI. Nesse período, ajudou a elaborar a estrutura da empresa para lidar com riscos e supervisionou relatórios de segurança de 12 lançamentos de modelos avançados.
Ele também alertou que as capacidades da IA avançam mais rapidamente do que o conhecimento dos pesquisadores sobre alinhamento, área voltada a fazer com que os sistemas atuem de acordo com objetivos e valores humanos. A OpenAI e a Anthropic foram questionadas após episódios de falhas em controles de segurança ou de comportamentos inesperados em sistemas experimentais.
Críticas anteriores
No mês passado, Jacob Coxon, ex-pesquisador da OpenAI que passou a trabalhar na Anthropic, também criticou as duas empresas. Britânico de 27 anos, ele atuou por três anos com pré-treinamento, etapa em que modelos de IA absorvem grandes quantidades de informação, primeiro na OpenAI e depois, neste ano, na Anthropic.
Coxon afirmou que as empresas avançam em direção a uma superinteligência capaz de se aprimorar sozinha e que não estariam agindo de forma responsável.
