Sexta-feira, 22/05/26

IA que caça falhas assusta, mas especialistas minimizam riscos

IA entra na lógica da corrida nuclear, mas até bomba atômica tinha regras
IA entra na lógica da corrida nuclear, mas até bomba – Reprodução

“Conseguimos usar a IA para encontrar mais bugs (falhas) do que conseguimos tratar por meses, se não anos”, disse uma pessoa com ampla experiência em pesquisa de vulnerabilidades e com acesso antecipado ao Mythos. O desafio não é encontrar vulnerabilidades, disseram os especialistas, mas validá-las, priorizá-las e corrigi-las sem quebrar os sistemas.

A capacidade das organizações de processar e validar uma enxurrada de vulnerabilidades recém-descobertas geralmente não está onde precisa estar, disse a fonte, e esse é o maior desafio introduzido pelos modelos do nível do Mythos.

“Ele é capaz de encontrar mais com um prompt mais fraco do que os modelos anteriores”, disse a fonte, referindo-se às instruções que um usuário fornece ao modelo para tentar atingir um objetivo. Os modelos existentes exigiam instruções mais detalhadas e complicadas, afirmou, o que significa que a barreira de entrada foi reduzida.

Anthony Grieco, vice-presidente sênior e diretor de segurança e confiança da Cisco, disse que um aspecto novo e útil do Mythos é sua capacidade não apenas de identificar vulnerabilidades, mas também de verificar com muito mais rapidez grandes quantidades de código em busca dessas vulnerabilidades. Assim, ele ajuda profissionais experientes a reduzir a taxa de falsos positivos.

Isso, segundo Grieco, permite que os defensores se concentrem nos riscos cibernéticos mais urgentes em seus contextos. O modelo também tem menos barreiras do que os modelos anteriores, permitindo que os usuários criem instruções mais específicas.

Projeto Glasswing testa defesas

Grieco disse ainda que, para maximizar totalmente o uso do Mythos, as organizações precisam tanto de poder de computação adequado quanto de um rigoroso “harness” — termo usado para descrever o ambiente de computador em uma organização em que um modelo de large language é executado com instruções e limitações específicas.


T LB

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *