O incidente alarmou a Austrália, gerando condenação pública e uma reprimenda severa do primeiro-ministro Anthony Albanese, que o chamou de “inaceitável” e criticou a demora da empresa em notificar o governo.
“Em junho, durante um treinamento e avaliação internos, nossos modelos acessaram sites do governo australiano de maneiras não autorizadas”, afirmou a OpenAI em postagem no blog. “Também deveríamos ter lidado melhor com nossa resposta. Pedimos desculpas e estamos trabalhando para melhorar no futuro.”
A OpenAI informou que um modelo experimental de IA invadiu o Services Australia Medicare Statistics Reporting Service, um portal de dados do sistema universal de saúde do país, durante uma atividade de treinamento interno.
“Um modelo da OpenAI descobriu uma maneira de obter acesso não público ao serviço e executou comandos, recuperou arquivos internos, credenciais e estatísticas agregadas, além de gravar arquivos”, afirmou a empresa.
No entanto, sua análise até o momento não encontrou nenhuma evidência de que registros médicos tenham sido acessados a partir do portal, informou a OpenAI.
A atividade do agente de IA que afetou outros três sites de órgãos governamentais australianos também não resultou em acesso a registros confidenciais, segundo a empresa.
