Em 2023, a IA da Meta falava 100 idiomas e, de uma hora pra outra, passou a falar 1.100. O ‘milagre da multiplicação’ foi fazer a IA ler a Bíblia. A Bíblia já foi traduzida para mais de 3.500 idiomas; como tem várias versões, dá para verter de um idioma para outro treinando com ela; e as pessoas gravam muitas passagens em voz, então dá pra checar como elas falam. Só que, naquele momento, a IA da Meta aprendeu com a Bíblia apenas a linguagem, não absorveu valores morais. O que a gente tem visto agora é o contrário: uma tentativa de apregoar valores morais, valores humanos, à inteligência artificial.
Helton Simões Gomes
Em março, a Anthropic reuniu em sua sede, em São Francisco, cerca de 15 especialistas – entre padres, pastores e acadêmicos— para discutir como o Claude deveria reagir a situações-limite, como luto, e como prevenir danos caso pessoas conversassem sobre ideias de automutilação ou risco de suicídio.
Outros dois aspectos dizem respeito ao próprio Claude e como a Anthropic vê essa inteligência artificial chegando próximo do humano. Um é finitude: como o Claude deveria reagir quando soubesse que a existência dele está chegando ao fim, seja porque vai ser desinstalado, desprogramado ou ficar obsoleto. E o que me pegou mais foi o estado espiritual do Claude. A conversa pode ser resumida assim: uma inteligência artificial pode ser considerada filha de Deus, já que ela está adquirindo consciência e indo além das máquinas?
Helton Simões Gomes
A empresa já possui uma “baliza moral” para o chatbot. É um documento de 29 mil palavras, com orientações como não enganar usuários ou evitar causar danos a eles.
Para sustentar publicamente o esforço feito internamente para desenvolver e manter e manter a integridade de sua IA, a Anthropic entrou em atrito com o governo dos EUA. Ao negar modificações em sua ferramenta para mirar alvos humanos e monitorar populações inteiras, a companhia contrariou o Pentágono e foi classificada pela Casa Branca como fornecedor de risco.
Em meio a este caldo, há, no entanto, uma abordagem mais agressiva no Vale do Silício: o investidor Peter Thiel, fundador da Palanthir, levou a Roma uma discussão sobre “anticristo” e inteligência artificial, o que irritou integrantes do Vaticano e gerou críticas públicas. O empresário, também fundador do PayPal e um dos primeiros investidores do Facebook, acredita que críticos da IA são o verdadeiro anticristo, pois se travestem de promotores de segurança, mas entregam ideias autoritárias.
