Acreditamos que o mundo deveria aceitar que algumas coisas ruins aconteçam pelos benefícios dessa tecnologia e para que as pessoas tenham autonomia
Sam Altman, CEO da OpenAI
Apesar do discurso de acesso amplo, Altman disse concordar com a ideia de desacelerar o desenvolvimento dos modelos mais avançados. A OpenAI também passou a apoiar medidas regulatórias e requisitos de segurança para os modelos de IA mais avançados, após lidar com casos de invasões e comportamentos indesejados de seus modelos.
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI, entre eles os irmãos Dario e Daniela Amodei. O grupo deixou a empresa após divergências sobre a direção da organização e preocupações com os rumos do desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos. Desde então, a Anthropic passou a defender uma abordagem focada em segurança e alinhamento de modelos de IA, posicionando-se como uma das principais concorrentes da OpenAI no setor.
O CEO da OpenAI rejeitou a ideia de concentrar a tecnologia em um único laboratório para evitar abusos. “Eu discordo, mas entendo a perspectiva de pessoas que pensam: ‘Essa tecnologia vai ficar tão poderosa e tão perigosa que um único laboratório em San Francisco deveria tê-la e garantir que nada de ruim aconteça, e meio que decidir como distribuir os benefícios'”, afirmou. Altman respondia a argumentos de pessoas que defendem restringir o desenvolvimento dos sistemas mais poderosos a um número muito pequeno de organizações.
Altman disse que não toparia uma troca em que a promessa de segurança total viesse ao custo de restringir o uso da IA. “Eu não faria uma troca do tipo: ‘Vamos garantir que não haja grandes invasões, não haja mau uso dessa tecnologia, não haja golpes, não haja todas as outras coisas ruins que vão acontecer’. Porque acho que as pessoas vão fazer muito mais coisas boas do que ruins”, declarou.
Altman critica associação entre IA e religião
Além da discussão sobre riscos e regulação, Altman também comentou outro debate recente envolvendo empresas de IA: o uso de conceitos religiosos e filosóficos para discutir o comportamento dos modelos. O executivo da OpenAI se disse preocupado com as tentativas de dar um peso religioso a modelos de IA. Em uma postagem no X, ele afirmou ver risco de segurança quando a tecnologia passa a ser tratada como autoridade moral ou substituta do julgamento humano.
