O Ministério Público Federal (MPF), a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon) informaram na quarta-feira (11) que ordenaram à rede social X, do bilionário Elon Musk, que adote medidas imediatas para impedir a criação de imagens de caráter sexual geradas pelo Grok, seu assistente de inteligência artificial (IA).
Vários países iniciaram processos legais contra a plataforma após a indignação internacional provocada pela ferramenta, que permite aos usuários pedir que pessoas reais apareçam nuas a partir de fotos ou vídeos.
O X deve implementar, “de forma imediata, medidas aptas a impedir a produção, a partir do Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento”, afirmaram o MPF, a ANPD e a Senacon.
As instituições apresentaram prazo de cinco dias à plataforma para cumprir a determinação, sob pena de multa e ações judiciais.
Segundo as autoridades brasileiras, após um alerta no fim de janeiro, o X afirmou “ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança”.
Também afirmaram que a empresa não foi transparente em sua resposta.
O X havia anunciado em meados de janeiro uma limitação de sua ferramenta de IA nos países onde a criação deste tipo de imagem é ilegal, mas ainda não é possível saber onde a limitação está em vigor.
O Grok, da empresa xAI de Musk, permitiu que os usuários modificassem imagens reais de pessoas com instruções simples como “coloque um biquíni” ou “tire a roupa”.
Segundo o Centro de Combate ao Ódio Digital (CCDH, na sigla em inglês), que investiga os efeitos nocivos da desinformação na internet, o chatbot gerou uma estimativa de três milhões de imagens sexualizadas de mulheres e menores em apenas alguns dias.
