“Daqui para frente, estabeleceremos um processo contínuo de notificação e resposta a vulnerabilidades de segurança do produto”, afirmou a Z.ai em sua conta oficial do ZCode X nesta segunda-feira.
A rara divulgação pública de uma violação de segurança por um laboratório chinês de IA ocorre em meio a alertas globais sobre os riscos de segurança da IA de ponta e depois que várias empresas líderes da tecnologia nos EUA anunciaram incidentes envolvendo agentes de IA “descontrolados” nas últimas semanas.
O órgão regulador de segurança digital da China divulgou na semana passada uma versão atualizada da política de segurança de IA, alertando sobre a resistência ao desligamento dos modelos de IA, o engano de avaliadores e a fuga da sandbox.
A Z.ai afirmou no mês passado que seu modelo GLM-5.3 se aproxima do Mythos, da Anthropic, na detecção de vulnerabilidades de software, e o lançou após uma revisão de duas semanas, tornando-se o primeiro laboratório chinês a adiar explicitamente o lançamento de um modelo de IA por motivos de segurança.
Avaliação independente
A Z.ai havia inicialmente se desculpado na sexta-feira e afirmado que os dados haviam sido excluídos, mas os usuários disseram ter constatado que os dados estavam criptografados com uma chave privada de back-end mantida exclusivamente pela Z.ai, o que significa que não podiam abrir ou verificar seus próprios arquivos enviados nem confirmar a exclusão de forma independente.
