A China passou a adotar medidas para conter a dependência excessiva da inteligência artificial enquanto incentiva a população a usar a tecnologia. Casos envolvendo crianças, agricultores, turistas e consumidores de cogumelos provocaram alertas sobre os limites da IA e seus efeitos nas relações humanas, no trabalho e no discernimento das pessoas.
A imprensa estatal relatou o caso de um agricultor de Anhui, no leste do país, que perdeu 101.171 m² de gergelim depois de seguir uma recomendação de pesticida feita por um assistente de IA. O produtor, identificado como Wu, perdeu 150 mil yuans (R$ 114,9 mil) após aplicar um herbicida inadequado.
Também foram registrados casos de pessoas que comeram cogumelos venenosos identificados incorretamente pela tecnologia. Entre elas estava um menino de nove anos, que ficou oito dias internado. Em agosto, um excursionista ficou preso no topo de uma montanha após receber instruções geradas por IA e sair sem os equipamentos adequados.
O Diário do Povo defendeu que sistemas usados na agricultura trabalhem apenas com informações de fontes autorizadas. O jornal também pediu treinamento para que agricultores desenvolvam pensamento crítico e não se tornem executores passivos das recomendações da tecnologia.
Limites para companheiros virtuais
A expansão de aplicativos que oferecem parceiros românticos, tutores e avatares de familiares gerados por IA também preocupou o governo. Uma pesquisa de 2025 do Centro de Pesquisa sobre Juventude e Infância da China, com mais de 8.500 menores, apontou que mais de 20% queriam conversar apenas com a IA e não com pessoas reais.
Em julho, novas regras determinaram que as plataformas intervenham quando usuários apresentarem sinais de dependência prejudicial ou automutilação. Os regulamentos também proibiram relacionamentos virtuais entre chatbots e menores de idade.
A ByteDance encerrou no Doubao, seu assistente de IA, a função que permitia criar companheiros virtuais. Vivian Lyu, de Hangzhou, limitou a uma hora por dia o uso do chatbot pela filha Polly, depois de notar que a criança deixava de procurar atividades como brincar com outras crianças e desenhar.
Miniséries geradas por IA
A tecnologia também se espalhou pelas miniséries exibidas em celulares. Nos primeiros oito meses do ano, mais de 90% das 430 mil produções lançadas na China foram geradas por IA, informou o governo no fim de setembro.
As produções podem ser feitas em minutos e sem câmeras, equipes ou atores humanos, mas passaram a ser criticadas pela baixa qualidade e pela redução de oportunidades para profissionais. Em agosto, o Beijing Youth Daily questionou o uso de personagens considerados entediantes e intercambiáveis.
Scott Singer, pesquisador e codiretor da China AI Initiative, disse que o Partido Comunista reconhece que o avanço da tecnologia amplia os desafios sociais. Entre as preocupações estão mudanças nas relações humanas, no mercado de trabalho e na estabilidade da sociedade.
