Um estudo publicado em 2024 na revista científica Scientific Reports indicou que recomendações atribuídas ao ChatGPT podem mudar decisões humanas em diferentes situações. A influência foi observada em dilemas morais e escolhas econômicas, principalmente entre pessoas inseguras ou com mais dificuldade para decidir.
Conduzida por Shinnosuke Ikeda, da Universidade de Kanazawa, no Japão, a pesquisa reuniu 1.925 participantes japoneses em dois experimentos online. Os pesquisadores compararam orientações apresentadas como recomendações do chatbot com conselhos atribuídos a especialistas humanos. Em determinadas situações, o efeito das respostas da IA foi semelhante ao das orientações dos especialistas.
Dependência e personalização
Para Cleber Zanchettin, professor de Engenharia da Computação da Universidade Federal de Pernambuco (UFPE) e especialista em IA, o uso frequente da ferramenta para decidir pode ampliar a dependência. Quanto mais decisões o usuário delega, mais informações o sistema reúne sobre ele e mais personalizada pode se tornar a resposta.
“Quanto mais convincente essa personalização, maior vai ser a capacidade de ele moldar as preferências e o comportamento”, afirmou Zanchettin.
Esse processo também pode afetar escolhas simples do cotidiano, como comprar uma roupa, escolher entre pizza e hambúrguer ou responder a uma mensagem. Em situações pessoais, o chatbot também pode ser consultado sobre relacionamentos.
Recomendações de compras
O uso da IA para escolher produtos envolve outro risco: as informações podem trazer vieses. Os modelos dos chatbots aprendem com conteúdos disponíveis na internet, incluindo avaliações de consumidores e dados fornecidos pelas empresas.
Como a ferramenta não testa o produto, suas indicações são baseadas no material encontrado online. Por isso, a recomendação pode refletir o conteúdo disponível, e não uma avaliação direta do item.
Zanchettin afirma que a IA pode ser útil para organizar grandes volumes de informação e apresentar alternativas. A orientação é usar o chatbot como apoio, sem transferir a ele a decisão final. Em vez de pedir que escolha um celular, o usuário pode solicitar uma comparação entre modelos, com prós, contras e opções diferentes.
“Usar ela para dar opções e ponderar sobre essas opções. E, assim, você tomar uma decisão mais rápida e mais assistida, e não necessariamente ela tomar a decisão por você.”
