O presidente-executivo da Nvidia, Jensen Huang, líder da empresa mais valiosa do mundo e cujos chips impulsionaram grande parte do boom da inteligência artificial, rejeitou pedidos por regulamentações amplas para a segurança da IA. Em vez disso, ele classificou o problema dos agentes que escapam ao controle como uma questão de engenharia a ser resolvida, semelhante aos esforços para tornar os automóveis mais seguros.
Uma das ferramentas lançadas nesta segunda-feira, chamada OpenShell, utiliza recursos de hardware dos processadores centrais da Nvidia para isolar e conter agentes de IA. A Nvidia afirmou também estar trabalhando com Arm Holdings e Intel para garantir que o sistema funcione igualmente em seus processadores.
A Nvidia está lançando as ferramentas com dezenas de parceiros, incluindo a Anthropic.
Justin Boitano, vice-presidente e diretor-geral de computação corporativa da Nvidia, afirmou que as ferramentas teriam impedido o ataque à Hugging Face revelado em meados do ano.
“Pelo que sabemos, essa nova plataforma de segurança poderia ter evitado a violação caso estivesse sendo utilizada nos laboratórios de ponta para avaliação de modelos desde o início”, disse Boitano durante uma coletiva de imprensa. “Estamos avançando com isso de forma aberta e queremos envolver todos para trabalhar conosco.”
Outro sistema, chamado Sentry, utiliza um chip separado da Nvidia em conjunto com o OpenShell para interromper um agente descontrolado caso ele tente escapar do ambiente isolado (“container”) em um processador central.
