*Lá, segundo a Axios, um “vigia de IA” monitora a cadeia de raciocínio dos agentes e aciona a equipe, que precisa pausar a atividade a menos que descarte o alerta como falso em 30 minutos. A meta é chegar a desligamentos totalmente autônomos em casos graves.
*A Anthropic usa IA para vigiar IA, mas com foco em detectar sabotagem, não em desligar tudo automaticamente. O sistema sinaliza comportamento suspeito, atrasa ações arriscadas e chama humanos.
*Há ainda a proposta de um freio no hardware: chips “governáveis”, que só funcionariam com autorização válida, cortando o poder computacional na origem. Contudo, precisariam de coordenação internacional para valer.
*No meio disso, Trump deu sinais contraditórios: em um momento, sugeriu que “sempre” existe algo para parar robôs (“um negocinho, boom”) em clara alusão a um botão que interrompa o “IApocalipse”; depois, disse não ter preocupação com extinção humana e que seu foco é não perder a corrida da IA para a China.
IAgora?
*O que mudou nesta semana não foi a existência do risco – foi o “clima” dentro e fora dos laboratórios. Mas é bom deixar algo bem claro: o medo e o temor sempre costumam fazer mais barulho do que o otimismo – mesmo que seja em número mais baixo.
