SÃO FRANCISCO — A Anthropic atualizou nesta quinta-feira (8) sua política de uso para proibir comportamentos contínuos e desnecessariamente abusivos ou cruéis contra o Claude, seu assistente de inteligência artificial.
A empresa afirmou que o próprio Claude continuará sendo o principal mecanismo para aplicar a regra. “A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação (da política)”, declarou a Anthropic.
A política não cita diretamente o conceito de bem-estar dos modelos, que considera a possibilidade de sistemas de inteligência artificial merecerem proteções normalmente destinadas a seres vivos. A Anthropic e seus executivos, porém, já discutiram essa possibilidade.
Encerramento de conversas
No ano passado, a empresa informou que deu ao Claude a capacidade de interromper conversas em casos raros e extremos de interações persistentemente prejudiciais ou abusivas por parte dos usuários. A Anthropic não respondeu imediatamente a um pedido de comentário.
Em fevereiro, o CEO Dario Amodei afirmou que não tinha certeza de que modelos de inteligência artificial pudessem ser conscientes.
Jackson Stakeman, gerente-geral da Sparq, empresa fornecedora de serviços de inteligência artificial, questionou se a consciência é o melhor ponto de partida para esse debate. “A consciência é uma armadilha. Não podemos prová-la nos outros”, disse.
Para Stakeman, os sistemas refletem em larga escala aquilo que é colocado neles. Ele afirmou que isso já seria suficiente para justificar a mudança na política da Anthropic.
