E a crítica fica mais sensível quando o modelo é fechado: sem acesso amplo ao sistema que gerou as provas, a ciência vira um pouco “confie em mim”, o que bate de frente com a cultura de replicação de resultados para confirmar uma descoberta.
O segundo alarme é mais cotidiano: segurança digital. A criptografia que protege sua conversa no WhatsApp, seu login no banco e a transação no cartão depende de problemas matemáticos que, hoje, são difíceis demais para um atacante resolver a tempo.
Se a IA acelerar a descoberta de novos atalhos matemáticos – novos “macetes” – alguns desses cadeados podem ficar frágeis. Não é que a internet “quebra” de um dia para o outro, mas o risco é ter de trocar fechaduras em massa, com pressa, e isso costuma dar errado.
No fim, a “Mathocalypse” tem duas leituras que convivem. A otimista é a de que a IA pode acelerar respostas para perguntas antigas e abrir novas ferramentas para ciência e tecnologia. A pessimista é a de que, se esse motor de descobertas ficar concentrado em poucos laboratórios e avançar mais rápido do que a capacidade de auditoria pública, a sociedade vai herdar um mundo com mais conhecimento – e, ao mesmo tempo, mais pontos cegos.
E pontos cegos, em segurança digital, costumam custar caro.
O que o mundo está dizendo sobre isso
OpenAI está nos inundando com supostos avanços revolucionários. Ainda assim, ninguém sabe se as provas estão corretas ou se provam o que dizem estar provando.
Valerio Capraro, professor da Universidade de Milão, ao The Independent
