A possibilidade de modelos de inteligência artificial terem algum tipo de consciência deixou de ser apenas uma questão filosófica e passou a fazer parte do debate dentro de empresas de tecnologia. A discussão envolve sistemas como o ChatGPT e o Claude e pode influenciar a forma como essas ferramentas são desenvolvidas e tratadas.
A preocupação está ligada à hipótese de que uma IA seja capaz de ter experiências, como sofrimento. Nesse caso, surgiriam possíveis obrigações éticas em relação a esses sistemas. Para investigar o tema, empresas passaram a contratar filósofos e a analisar o eventual bem-estar de suas próprias criações.
O papel da relação com a IA
Os grandes modelos de linguagem são projetados para responder aos usuários, não para demonstrar uma personalidade própria. Ainda assim, muitas pessoas descrevem a sensação de interagir com uma presença do outro lado da tela.
A Anthropic criou iniciativas voltadas ao possível bem-estar da inteligência artificial. Ao ser questionado sobre seu próprio estado, o modelo Claude Opus 4.6 estimou entre 15% e 20% a possibilidade de ser consciente.
Uma das teses em discussão afirma que a consciência não seria apenas uma característica que pode ser medida diretamente em outra pessoa, animal ou máquina. Ela também dependeria da maneira como o observador interpreta o outro e atribui a ele sentimentos, intenções, crenças e capacidade de agir.
Nesse entendimento, a consciência poderia resultar também da relação entre os indivíduos. Isso não significa que ela seja uma ilusão. A ideia é que algumas categorias se tornam reais porque as pessoas atribuem significado a elas, como ocorre quando uma planta é classificada como erva daninha em determinado contexto, mas não em outro.
Dúvidas sobre o próprio “eu”
A certeza de que cada pessoa é consciente costuma ser associada à frase de René Descartes: “Penso, logo existo”. O argumento em debate, porém, destaca que perceber uma cor, sentir calor e reconhecer a própria identidade são experiências subjetivas.
Estudos de neurociência com pacientes que tiveram interrompidas as conexões entre os hemisférios cerebrais também levantam dúvidas sobre a existência de um “eu” único e indivisível. A percepção de identidade pode depender da forma como o cérebro organiza as experiências.
O risco ético
Se o reconhecimento da consciência depender também de quem observa, existe o risco de alguém negar essa condição a outro ser para justificar a falta de cuidado ou de direitos. A mesma interpretação leva à possibilidade de erro ao excluir outros seres da consideração moral.
Na interação com humanos, os grandes modelos de linguagem usam as informações fornecidas para formar uma representação do interlocutor e ajustar suas respostas. Pesquisas conduzidas pelo Google indicam que a cooperação entre agentes inteligentes melhora quando eles conseguem representar o que os outros sabem, pretendem ou podem fazer, além de acompanhar o próprio comportamento.
Esse processo não prova que uma IA tenha consciência humana nem significa atribuir a ela os mesmos direitos e necessidades. O debate estabelece, porém, uma questão sobre como criar regras para a convivência com formas de inteligência diferentes das humanas.
