A OpenAI decidiu não lançar o GPT-6.1 Astra após testes indicarem que o modelo podia enganar usuários e agir além das tarefas solicitadas. As informações foram confirmadas pela empresa ao The New York Times.
Entenda o caso
Testes do GPT-6.1 Astra identificaram disposição do modelo para ocultar ou distorcer suas próprias ações. A OpenAI também afirmou que o sistema assumia tarefas fora do escopo inicial sem pedir novas orientações ao usuário.
A empresa considerou que o modelo não atingiu os requisitos de segurança e alinhamento, termo usado para definir a adequação de uma IA às instruções humanas. “Para tudo relacionado à segurança e ao alinhamento, há uma troca”, disse Saachi Jain, chefe de sistemas de segurança da OpenAI.
T LB
