Após a declaração de Coxon, Geoffrey Hinton, um dos vencedores do Nobel de Física de 2024 e um dos pioneiros da inteligência artificial, estimou em entrevista ao programa BBC Newsnight, na quarta-feira (9) que o risco de 10% de a IA aniquilar a humanidade nos próximos dez anos é “plausível”. Ele ressaltou que é impossível avalair esse risco com precisão, já que a humanidade jamais criou seres que possam se tornar mais inteligentes do que ela própria.
Para Hinton, a IA dispensa a presença física para representar uma ameaça existencial. Ela poderia se tornar inteligente o suficiente para provocar a extinção da humanidade sem recorrer a robôs para atacar diretamente as pessoas. A ONU também já havia se pronunciado na segunda-feira (7) sobre o risco que a IA “sem controle” representa para a humanidade.
Apesar dos alertas, a concorrência entre as empresas líderes do setor, que envolve investimentos de centenas de bilhões de dólares, dificulta, na prática, a redução do ritmo de desenvolvimento das ferramentas. As techs temem “ficar para trás” em um momento decisivo para o mercado. Dario Amodei afirmou estar disposto a se coordenar com concorrentes, exceto os chineses.
Segundo o site The Information, Anthropic, OpenAI e Google discutem desde julho a criação de um órgão de supervisão profissional. Até agora, a única medida concreta adotada pela Anthropic e pela OpenAI é a presença permanente de observadores independentes encarregados de verificar internamente os trabalhos relacionados à segurança da IA.
Estratégia de comunicação?
Muitos integrantes do setor elogiaram a iniciativa de Dario Amodei, mas outros questionam suas motivações. Para Brian Roemmele, empreendedor do setor, o fato de a polêmica surgir poucas semanas antes da provável abertura de capital da Anthropic é uma estratégia comercial que visa passar uma imagem de empresa “responsável”, que oferece segurança adicional.
