A ação coordenada ocorre como resposta a denúncias de que usuários estariam utilizando a IA integrada à rede social para produzir deepfakes eróticos e pornográficos de pessoas reais sem consentimento.
Segundo os órgãos, a intervenção é urgente e necessária para proteger a dignidade humana e o direito à privacidade, uma vez que a circulação de imagens de mulheres e menores expostos indevidamente gera danos graves e de difícil reparação.
As instituições recomendam o seguinte:
- Bloqueio Imediato: O Grok deve parar de gerar fotos ou vídeos que retratem menores ou adultos em contextos sexuais sem autorização expressa.
- Limpeza da Rede: O X tem prazo de 30 dias para criar procedimentos técnicos eficazes que identifiquem e removam conteúdos desse tipo que já circulam na plataforma.
- Suspensão de Contas: Usuários que utilizarem a ferramenta para criar tais imagens devem ter suas contas suspensas imediatamente, com a apresentação de relatórios mensais de cumprimento.
- Canal de Denúncias: A plataforma deve implementar um mecanismo transparente para que as vítimas possam exercer seus direitos e denunciar o uso abusivo de seus dados pessoais.
Impacto e Fiscalização
Os órgãos destacam que a tecnologia não pode ser usada como escudo para a prática de crimes ou violações de direitos fundamentais. A ANPD e os demais órgãos também exigiram a elaboração de um relatório de impacto à proteção de dados, focado especificamente na manipulação de arquivos enviados por usuários ao Grok.
