As empresas de inteligência artificial participantes de uma reunião com Trump se comprometeram a adotar controles internos, auditorias externas e estruturas independentes para acompanhar a segurança de seus sistemas. O compromisso foi divulgado no documento chamado Acordo da Casa Branca sobre Superinteligência.
O texto se aplica a companhias que treinam e implementam modelos de fronteira, descritos como os sistemas de inteligência artificial mais avançados. O acordo prevê que elas monitorem as capacidades e o comportamento dos modelos durante o treinamento e o uso, com atenção a riscos de cibersegurança, biossegurança e ameaças químicas.
Cada empresa também deverá manter uma equipe interna com autonomia para verificar os mecanismos de controle e identificar problemas. O grupo terá de garantir a correção de eventuais falhas. Além disso, as companhias deverão contratar um auditor ou avaliador externo para examinar se os controles e o monitoramento funcionam adequadamente.
Outra exigência é a criação de um comitê independente ligado ao conselho de administração. Esse grupo deverá supervisionar os mecanismos de segurança, receber relatórios das equipes internas e dos avaliadores externos e acompanhar a solução dos problemas identificados.
Possíveis regras obrigatórias
O acordo prevê reuniões regulares entre as empresas para definir padrões e boas práticas de segurança. O documento também admite que as medidas sejam transformadas em leis ou regulamentos. “Com o tempo, pode fazer sentido transformar essas medidas em leis ou regulamentos”, diz o texto.
Mesmo sem uma exigência do governo, as companhias afirmam que pretendem implementar os controles e as auditorias. Trump disse que as empresas vão se “autorregular” e que “querem fazer o que é certo”.
Durante o encontro, o presidente afirmou ainda que os executivos assinaram um acordo “moralmente vinculante” e que considera criar um comitê com dez pessoas para supervisionar o setor.
A reunião ocorreu em meio à pressão sobre o governo Trump para responder aos riscos associados ao avanço da inteligência artificial. Invasões levaram pesquisadores a alertar que a tecnologia poderia matar seres humanos em menos de uma década, enquanto parlamentares democratas e republicanos passaram a pedir ações sobre o tema.
