O especialista avalia que, quanto mais independentes esses sistemas ficam, maior é o risco de dano em ambientes digitais frágeis. “Quanto mais autônomos eles se tornam, mais provável é que causem danos”, afirmou.
Ele também apontou que parte da infraestrutura online depende de softwares com falhas exploráveis. “Construímos esse mundo complexo pela internet, que é todo operado por software, mas um software que tem falhas”, disse. “Agora você introduz agentes de IA altamente capazes, que podem operar em escala e velocidade e esse modelo todo simplesmente quebra”, completou.
Responsabilidade legal e reação do governo
O caso também reacendeu dúvidas sobre quem responde quando um agente autônomo faz algo fora do esperado. Hayden Delaney, sócio do escritório Thomsons especializado em tecnologia, disse que “software não é uma pessoa legal. Só uma pessoa legal pode ser responsabilizada na lei”.
Delaney afirmou que a responsabilidade pode recair sobre diferentes partes, a depender do que foi autorizado e do risco previsível. “Essa é a área desconhecida de responsabilidade na Austrália que estamos enfrentando agora”, disse.
Autoridade de cibersegurança da Austrália já alertou empresas e governos sobre ações não intencionais e dificuldade de atribuir culpa em cadeias de modelos e ferramentas. No mês passado, o ministro assistente de Ciência, Tecnologia e Economia Digital, Andrew Charlton, afirmou em conferência sobre segurança em IA: “À medida que sistemas de IA se tornam mais capazes, precisamos ter confiança de que eles vão se comportar de um jeito igualmente previsível e confiável”.
