A empresa afirmou que não houve acesso a informações médicas individuais nem a prontuários de pacientes. No comunicado, a OpenAI disse que “o modelo teve dificuldade para obter essa informação e tomou ações que não tínhamos autorizado”.
OpenAI afirmou que, ao procurar dados no serviço de relatórios estatísticos do Medicare, o sistema encontrou uma forma de entrar em uma área não pública. “No processo de buscar essa informação no Medicare Statistics Reporting Service, da Services Australia, ele descobriu uma maneira de obter acesso não público ao serviço”, disse a empresa.
Outros dois sites estaduais também foram acessados ou tiveram interferência, segundo a companhia. A OpenAI citou o Bureau of Crime Statistics and Research de Nova Gales do Sul e o Departamento de Saúde do estado de Victoria.
A empresa afirmou ainda que agentes tentaram, sem sucesso, burlar controles de acesso de outro site federal. O alvo, segundo a OpenAI, foi o portal do Australian Institute of Health and Welfare.
Investigação e debate sobre regras para agentes de IA
O governo australiano anunciou uma investigação para apurar os acessos e discutir responsabilização e possíveis mudanças regulatórias. A apuração também deve avaliar se há necessidade de novas regras para lidar com ameaças geradas por agentes de IA.
