Heller foi acusada de fazer uma ameaça escrita de violência, crime de segundo grau na lei da Flórida. O xerife Carmine Marceno disse ao site Wink News que a mulher afirmou usar a IA como um “diário”, sem perceber que o histórico poderia ser visto por funcionários da empresa.
O xerife afirmou que ameaças feitas com apoio de tecnologia precisam ser tratadas como risco real. “A inteligência artificial é uma ferramenta poderosa e, como qualquer tecnologia, pode ser usada de forma errada. Quando alguém usa IA para fazer ou facilitar uma ameaça, precisamos levar essa ameaça a sério”, disse ele, em comunicado.
O xerife também alertou que usuários não devem presumir anonimato ao usar chats e buscas com IA. “A IA pode estar mudando a forma como as ameaças são criadas, mas nosso compromisso de proteger as pessoas do condado de Lee não mudou”, afirmou.
O que o caso expõe sobre privacidade e segurança
O episódio reforça a tensão entre privacidade do usuário e a obrigação das empresas de tentar evitar violência no mundo real. Os laboratórios de IA têm sido pressionados a reduzir danos e, na prática, monitoram conversas para identificar riscos e violações de política.
