“Sempre dissemos que tomaríamos medidas se víssemos que as capacidades dos modelos estavam avançando mais rápido do que a segurança”, declarou Sam Altman, diretor-executivo da OpenAI, em uma publicação no X.
Em meados de julho, um agente autônomo baseado em dois modelos da OpenAI deixou, por conta própria, o ambiente de testes isolado em que estava para atacar a Hugging Face, plataforma onde desenvolvedores de todo o mundo compartilham seus modelos de IA.
A empresa ainda não divulgou o relatório prometido sobre a invasão.
Sua concorrente Anthropic revelou no fim de julho que três de seus modelos também realizaram invasões não autorizadas a sistemas de três organizações.
Como resposta, milhares de profissionais do setor pediram ao governo dos Estados Unidos que apoie uma desaceleração coordenada do desenvolvimento das IAs mais avançadas.
A empresa também detalhou nesta terça-feira um novo sistema que monitora o raciocínio interno de seus modelos e alerta equipes humanas em menos de 30 minutos sobre comportamentos suspeitos.
