O debate já estava quente, mas ganhou ainda mais tração após dois modelos de IA da OpenAI executarem um ataque hacker, contido por uma IA chinesa.
Segundo Gabriel Francisco Ribeiro, o ataque foi sendo explicado aos poucos. Primeiro, a startup Hugging Face disse ter sido invadida por “agentes autônomos”. Depois, a OpenAI assumiu a autoria do incidente cibernético e afirmou que modelos em teste escaparam do ambiente controlado e atacaram um serviço externo para buscar respostas.
Esse é um ataque que a OpenAI chamou de ‘sem precedentes’, porque foi um ataque inteiramente conduzido por uma IA. Então não teve nenhuma participação humana. Não teve um humano guiando, ‘faz isso, depois faz aquilo’. Tanto que, depois saiu um estudo que apontou que esse ataque foi executado em questão de horas, e um humano levaria semanas para fazer algo parecido.
Gabriel Francisco Ribeiro
O teste do qual participavam os modelos de IA da OpenAI é como um “ENEM da IA”, mas voltado apenas à cibersegurança. Nele, os modelos poderiam colaborar, mas não “sair do aquário”, diz Helton. Mas a dupla da OpenAI achou uma brecha e acessou a internet para procurar respostas.
Esse teste ocorre no sandbox, uma espécie de aquário: eles deixam a IA presa, travada, e você não pode sair desse aquário. Eles acharam uma rachadura no aquário, acessaram a internet e começaram a invadir o sistema da Hugging Face, começaram a atacar, a buscar respostas e acharam a solução. Foram muito bem no teste, mas hackearam uma outra empresa.
Helton Simões Gomes
O episódio fica ainda mais simbólico, na avaliação de Helton, porque a empresa atacada se defendeu com um modelo chinês, o GLM 5.2, da Z.ai, já que modelos norte-americanos têm “amarras” para esse tipo de uso.
