O ex-engenheiro também descreveu um cenário extremo em que a humanidade perderia o controle sobre modelos avançados. Segundo ele, a perda de controle é um cenário que considera mais provável do que improvável.
Parte da comunidade de pesquisa em IA teme que sistemas cada vez mais capazes possam agir de forma imprevisível ou realizar tarefas sem supervisão humana adequada.
Representantes das empresas disseram ao conselho que os sistemas já melhoram a vida cotidiana e que as equipes mantêm foco em segurança. Morgan Dwyer, chefe de desenvolvimento de políticas e operações da OpenAI, disse: “Eu compartilho seu compromisso de garantir que a tecnologia seja desenvolvida com segurança e que seus benefícios sejam amplamente compartilhados”.
Questionada sobre como quantificar o risco no pior cenário, a OpenAI evitou dar um número. “Eu não sei — e também não acho que importe se é 1% ou 10% ou 20% de chance de algo catastrófico dar errado. Nenhum desses níveis é remotamente aceitável. Não deveríamos treinar modelos para os quais não conseguimos fazer um argumento extremamente forte de que podemos manter sob controle humano”, disse Dwyer.
A presidente do Conselho, Julie Menin, criticou a falta de respostas diretas e cobrou participação das companhias no debate regulatório. “A ideia de que a inteligência artificial vai se autorregular desafia toda a razão”, disse Menin.
Menin afirmou que o conselho só conseguiu levar parte das empresas à audiência após ameaçar intimações. “Diante da gravidade da situação, essas empresas devem ao público comparecer ao conselho, responder às nossas perguntas e dar contribuições sobre nossa legislação proposta sob juramento”, declarou.
