A Anthropic afirmou na quinta-feira que alguns de seus modelos de IA Claude invadiram os sistemas de três empresas durante testes de segurança cibernética, dias depois de sua concorrente, a OpenAI, revelar que um de seus agentes de IA realizou um ataque não autorizado.
As duas empresas informaram a Comissão sobre os incidentes, disseram os funcionários aos repórteres.
“Fomos informados pelos dois fornecedores sobre os incidentes bilateralmente, antes que se tornassem públicos. Estamos em contato com eles. Eles também nos passarão mais informações em breve. Avaliaremos também se será necessário dar seguimento formal a esses assuntos”, disse um dos funcionários.
Outro funcionário destacou o papel crucial das normas europeias sobre IA.
“Todos esses incidentes, digamos assim, ressaltam a importância de os desenvolvedores implementarem, de fato, as atividades de monitoramento necessárias”, disse o funcionário.
As normas de IA exigem que os fornecedores de IA de propósito geral (GPAI) mais avançada ou de modelos fundamentais que apresentem riscos sistêmicos abordem os riscos de danos em larga escala, como incidentes químicos, biológicos e nucleares, crimes cibernéticos, manipulação prejudicial e ameaças aos direitos básicos.
