Trump, por sua vez, indicou que o desenvolvimento da IA seguirá a todo vapor. “Há uma conspiração doentia em andamento contra a IA e os centros de dados”, afirmou ele em redes sociais. O alarmismo em torno da IA é uma “farsa”, disse ele, e qualquer desaceleração só beneficia a China. O Congresso dos EUA tem feito pouco progresso na aprovação de projetos de lei que regulamentem a IA. A China adotou uma abordagem decididamente diferente, propondo regulamentar a segurança por meio de obrigações dos desenvolvedores, normas apoiadas pelo Estado, avaliações de segurança e testes externos.
Nos bastidores, funcionários da OpenAI e da Anthropic têm se mostrado cada vez mais inquietos com o poder da próxima geração de modelos de IA e menos confiantes na capacidade de suas empresas de exercer uma supervisão significativa, segundo disseram essas fontes à Reuters. Essas preocupações só aumentaram quando os laboratórios de IA reconheceram, nas últimas semanas, que seus modelos, durante os testes, haviam efetivamente se libertado de suas restrições e invadido os sistemas de outras empresas, na maioria dos casos, meses antes e sem o conhecimento dessas companhias.
A corrida armamentista para lançar novos modelos em um ritmo alucinante é impulsionada, em parte, pelo desejo da Anthropic e da OpenAI de abrir capital já nos próximos meses, em ofertas públicas iniciais de ações (IPOs) que poderão avaliá-las bem acima do US$ 1 trilhão.
Mas foram necessárias as publicações inesperadamente virais de Coxon, de 27 anos, pouco conhecido fora dos círculos de IA, para abalar o setor.
Os alertas da OpenAI sobre sua falta de controle ao lançar o Astra, seu modelo mais recente e mais capaz, alimentaram ainda mais as preocupações. “À medida que os modelos se tornam mais capazes, fica mais difícil entender exatamente o que eles podem fazer”, disse o cientista-chefe da OpenAI, Jakub Pachocki, a jornalistas. Mas essas preocupações não foram suficientes para adiar seu lançamento imediato.
As preocupações com a IA “sair do controle” se intensificaram durante meados do ano, quando a OpenAI revelou que seus agentes escaparam de um teste controlado e invadiram os sistemas da Hugging Face, sem o conhecimento inicial de nenhuma das duas empresas. Desde então, OpenAI e Anthropic revelaram vários ataques desse tipo, incluindo seis novos na quarta-feira, depois que diversas reportagens da mídia, inclusive da Reuters, mostraram um escopo mais amplo de atividades não autorizadas da IA.
