4 Jun (Reuters) – A Anthropic disse na quinta-feira que os desenvolvedores de IA de fronteira devem estabelecer uma maneira coordenada e verificável de desacelerar ou interromper temporariamente seu trabalho caso os sistemas comecem a se aperfeiçoar mais rapidamente do que a sociedade pode gerenciar seus riscos.
Uma inteligência artificial capaz de se autoconstruir seria um grande desenvolvimento na história da tecnologia, mas “o aperfeiçoamento recursivo completo também pode aumentar os riscos de os humanos perderem o controle sobre os sistemas de IA”, disse a Anthropic.
“Se os sistemas forem capazes de criar totalmente seus próprios sucessores, as formas como os protegemos, monitoramos e moldamos seu comportamento se tornarão muito mais importantes.”
