“A IA acarreta riscos e, por ser uma tecnologia tão poderosa, esses riscos são graves”, disse.
“Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente. Tentamos encontrar um meio-termo”, disse Amodei, que co-fundou a Anthropic com sua irmã Daniela em 2021.
“Mas, nos últimos meses, me convenci de que abordar plenamente os riscos exige ainda mais cautela”, afirmou.
Altman e Musk reagiram à publicação. “Concordo com Dario”, escreveu Altman no X, acrescentando que sua empresa seguirá o exemplo de Amodei ao aceitar avaliadores de segurança externos. “Dario tem razão”, concordou Musk.
Esses comentários surgem poucos dias depois de o pesquisador de IA Jacob Coxon, que deixou a OpenAI para se juntar à Anthropic, ter decidido abandonar a indústria, acusando ambas as empresas americanas de “brincarem com nossas vidas” na corrida para desenvolver modelos de IA que se aprimoram sozinhos.
Mudança?
A declaração de Amodei também coincide com outro apelo da Anthropic, no início de junho, para desacelerar ou suspender o desenvolvimento de IA.
