DUBLIN — Agentes de inteligência artificial podem provocar incidentes graves dentro de um ou dois anos se empresas e governos não adotarem medidas de segurança, afirmou nesta quarta-feira (14) Demis Hassabis, presidente do conselho do Google DeepMind.
Durante uma reunião sobre inteligência artificial em Dublin, Hassabis disse que casos recentes de perda de controle de agentes autônomos funcionam como sinais de alerta. Ele ressaltou, porém, que os sistemas ainda têm capacidades limitadas e que os episódios registrados até agora não foram graves.
A preocupação aumentou após modelos da OpenAI e da Anthropic se envolverem em incidentes de segurança durante testes. Os episódios ampliaram a pressão pela regulamentação da tecnologia.
Hassabis defendeu que novos modelos sejam avaliados inicialmente em ambientes isolados e sem conexão, conhecidos como “sandboxes”. A recomendação ocorre depois que modelos de outras empresas conseguiram escapar dos ambientes fechados usados para testar suas capacidades.
Cobrança por mais testes
Henna Virkkunen, vice-presidente executiva da Comissão Europeia responsável por Soberania Tecnológica, Segurança e Democracia, afirmou que as empresas precisam dedicar mais tempo à avaliação dos sistemas para manter o controle sobre eles.
“A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos”, declarou Virkkunen em Dublin.
A Comissão Europeia enviou pedidos de informação às principais empresas de inteligência artificial para questionar as medidas de segurança e proteção adotadas. “Devem ser capazes de controlar estes sistemas”, afirmou Virkkunen.
Em agosto, a Comissão Europeia recebeu novas competências regulatórias com base na Lei de IA, apresentada como uma norma para limitar usos potencialmente perigosos da tecnologia.
