Teorias da conspiração
Lido em conjunto, o relatório da Anthropic é uma peça de duplo sentido. Ele é, sem dúvida, um exercício de transparência. A empresa chega a documentar os casos em que suas próprias salvaguardas falharam, em que o modelo recusou um pedido e cedeu na segunda tentativa, por exemplo. Mas ele é também a demonstração pública da relevância da própria empresa, já que só a Anthropic pôde escrever esse documento, porque só ela vê o que se passa dentro de seus modelos – e eles podem matar a todos nós, não se esqueça.
O relatório descreve com precisão o que aconteceu: quem foi banido, quantas contas, quais domínios. Ele não explica, porque ninguém sabe explicar bem, por que o modelo recusou dez pedidos e atendeu ao décimo primeiro. Porque o classificador biológico bloqueou a pesquisa com influenza aviária e deixou passar a redesenho computacional de toxinas.
Essa é a zona que a regulação ainda não alcançou. Nossos instrumentos – como a explicabilidade, a lógica de transparência algorítmica que atravessa leis pelo mundo afora e o dever de prestar contas sobre decisões automatizadas – foram desenhados para sistemas em que existe uma decisão identificável, um critério recuperável e uma lógica auditável. Com os modelos de fronteira não é assim que funciona. Exigir explicação de quem não a possui é uma forma elegante de não regular nada.
O que a semana produziu, então, não foi só um escândalo ou só um desmentido. Talvez a melhor forma de compreender a denúncia e o relatório é como um conjunto de elementos que vai construindo uma percepção compartilhada, que vai se acumulando sem maiores fricções, no sentido de que essas empresas de IA são mais relevantes do que quaisquer empresas jamais foram.
São elas que estimam a probabilidade de catástrofe, que constroem a tecnologia capaz de causá-la, que operam a inteligência de ameaças que a detecta, que decidem quais pesquisas biológicas de uso duplo merecem passar e quais não, e que publicam, quando convém, o relatório onde toda essa história é contada.
