O CEO do DeepMind também diz que o problema não se limita ao código aberto. Ele sustenta que os maiores riscos devem vir de modelos proprietários mais poderosos que ainda serão lançados pelos grandes laboratórios.
Em manifesto, Hassabis afirma que decisões tomadas agora vão influenciar o rumo do desenvolvimento da IA. “O que fizermos coletivamente agora determinará como a próxima fase da civilização vai se desenrolar”, escreveu.
Ele diz ter buscado apoio para a ideia antes de torná-la pública. “Os sinais que tenho ouvido são muito positivos”, afirmou ao Axios, ao relatar conversas com o governo Trump, líderes de outros laboratórios e autoridades europeias.
Como seria o órgão proposto
A proposta mira um modelo inspirado na Finra, entidade privada que supervisiona o mercado financeiro sob a SEC nos EUA. A ideia é que laboratórios de “fronteira” (ou seja, as grandes empresas do setor de IA que criam os modelos mais avançados) compartilhem voluntariamente seus modelos com até 30 dias de antecedência para testes de segurança.
Os testes buscariam identificar capacidades perigosas, como ataques cibernéticos, riscos biológicos e comportamentos de “decepção”. Se o sistema de avaliação se mostrar “efetivo e robusto”, Hassabis defende que a exigência possa virar regra para operar no mercado americano.
