A rede normalmente inclui dispositivos da IoT (Internet das coisas) com segurança precária, como aparelhos Android TV, eletrodomésticos inteligentes e câmeras de segurança, e é usada por hackers para enviar spam, disseminar malware ou sabotar empresas-alvo por meio de um grande volume de tráfego falso.
A postagem de segunda-feira no blog da Anthropic pareceu ser a primeira tentativa de articular como isso poderia acontecer.
A empresa afirmou que seus experimentos demonstraram que um agente malicioso de IA poderia combinar o poder computacional de dispositivos baratos conectados à internet para executar outros modelos de IA. Acrescentou que os modelos foram capazes de se replicar em uma rede de testes simplificada.
“Um replicador como este seria difícil de desligar, já que não há um ponto centralizado para desligá-lo”, disse a empresa.
O relatório amplia as preocupações sobre os riscos de segurança associados a sistemas de IA cada vez mais sofisticados, incluindo seu potencial para automatizar ataques cibernéticos, operar com supervisão humana limitada e burlar medidas de segurança.
Os avanços nos modelos suscitaram uma série de alertas, muitas vezes alarmantes, por parte de líderes da indústria e funcionários de empresas de IA sobre a possibilidade de riscos graves, até mesmo existenciais, decorrentes do desenvolvimento descontrolado da IA.
