A Secretaria Nacional do Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF) avaliaram as respostas apresentadas pela plataforma X como insuficientes para corrigir falhas na ferramenta de inteligência artificial Grok, que permite a geração de conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes, bem como adultos sem consentimento.
Em resposta a uma Recomendação Conjunta, o X informou ter removido milhares de publicações e suspendido centenas de contas por violação de políticas, além de adotar medidas de segurança. No entanto, as instituições apontaram a ausência de evidências concretas, relatórios técnicos ou mecanismos de monitoramento para verificar a efetividade dessas ações. Testes preliminares indicaram a persistência das falhas, com continuidade na geração e circulação de conteúdos incompatíveis.
Diante disso, Senacon e ANPD determinaram a implementação imediata de medidas técnicas, administrativas e organizacionais para impedir que o Grok produza imagens, vídeos ou áudios representando crianças, adolescentes ou adultos identificáveis em contextos sexualizados sem consentimento. Essas determinações abrangem todas as versões e modalidades do sistema.
A Senacon, em medida cautelar administrativa, exigiu ainda uma enumeração detalhada das providências já adotadas e um relatório métrico com dados quantitativos sobre identificação, moderação e remoção de conteúdos, incluindo critérios técnicos e medidas corretivas como suspensão de contas. A atuação baseia-se em indícios de violação ao Código de Defesa do Consumidor.
A ANPD, por meio de medida preventiva, determinou o aprimoramento das medidas e a apresentação de uma relação detalhada das providências adotadas, com comprovação de eficácia via evidências documentais, no prazo de cinco dias úteis. O processo de fiscalização pode ser consultado no Sistema Eletrônico de Informações (SEI).
O MPF ordenou a entrega de relatórios mensais, a partir deste mês, detalhando ações para impedir e reprimir a produção de deepfakes nocivos, incluindo números de postagens removidas e contas suspensas. A instituição criticou a falta de transparência na resposta do X, que se limitou a informações genéricas.
As instituições atuam de forma coordenada na apuração dos fatos relacionados ao Grok. O descumprimento das determinações pode resultar em sanções administrativas, multas, obrigações de fazer, processos sancionadores e ações judiciais, conforme previsto na legislação aplicável.
