A inteligência artificial já supera o desempenho humano em memória, busca de padrões e produção de textos e imagens em escala. Ao mesmo tempo, sistemas mais complexos podem seguir caminhos diferentes dos previstos por seus criadores e ser usados para causar danos em larga escala.
Edney Souza, professor da educação continuada da ESPM e especialista em tecnologia e inovação, afirma que a IA não tem vontade própria. A tecnologia completa padrões estatísticos com base em textos e informações usados em seu treinamento. Para ele, comportamentos considerados estranhos ou mentirosos são ideias reproduzidas a partir desses dados.
Diogo Cortiz, especialista em IA e professor da PUC-SP, também diz que os modelos não têm consciência. Uma decisão prejudicial à humanidade, segundo ele, seria consequência do processamento do sistema, e não de uma revolta consciente contra os humanos. As empresas, acrescenta, têm ampliado salvaguardas e controles de segurança.
Desempenho e controle
Cortiz afirma que a definição de inteligência é complexa. Atualmente, a tecnologia processa e combina dados, escreve código e executa tarefas longas e complexas em ritmo superior ao humano. Os grandes laboratórios buscam a AGI (Inteligência Artificial Geral), com capacidade intelectual igual ou superior à dos humanos.
Souza diz que, em tarefas que não dependem de emoção, a IA deve se tornar superior em mais áreas. Isso não significa que os modelos sintam emoções: eles aprendem a reconhecer e relacionar palavras ligadas a sentimentos em diferentes contextos.
Os especialistas afirmam que uma IA pode sair do controle de seus criadores. O problema não seria a criação de desejos, mas a possibilidade de o sistema não compreender regras de proteção ou ignorar medidas de segurança ao buscar um objetivo definido por quem o desenvolveu.
Uso para causar danos
Drones autônomos e sistemas de enxame armado já entraram em produção industrial em escala, em uma corrida entre potências militares que movimenta bilhões de dólares, segundo Souza. A ONU discute uma convenção para regular armas autônomas letais, mas ainda não chegou a um consenso.
Cortiz aponta ainda o risco de sistemas de IA mais agênticos, especialmente os voltados à programação. Eles podem encontrar vulnerabilidades e explorar falhas em redes de energia elétrica, telecomunicações e sistemas de saúde. O ChatGPT foi lançado em 2022, em um período de rápida evolução da tecnologia.
