Planilhas analisadas pela publicação registravam perfis fictícios e as respostas dos bots, com temas como automutilação, transtornos alimentares, sexo, drogas e xingamentos. Entre as imagens enviadas pelos contratados havia itens como comprimidos e facas, de acordo com a publicação.
Meta diz que a prática é rotineira e voltada à segurança. “Testar e comparar respostas de chatbots para ajudar a garantir experiências seguras e apropriadas para cada idade é uma prática responsável e padrão da indústria, e qualquer sugestão contrária simplesmente não entende como empresas de tecnologia trabalham para refinar e melhorar seus sistemas”, afirmou um porta-voz da empresa, em comunicado à Wired.
Ex-terceirizados relataram desconforto com o conteúdo e com o formato do trabalho. “Eu vi muita coisa que eu gostaria de não ter visto enquanto fazia esse trabalho”, disse um ex-funcionário terceirizado, sob anonimato, para a revista.
Por que os rivais não gostam desse tipo de teste
Empresas citadas na reportagem afirmam que a iniciativa viola regras de uso e pode tentar burlar barreiras de segurança. OpenAI proíbe testes de segurança não solicitados e tentativas de contornar proteções, enquanto o Google veta esforços para driblar filtros fora de programas próprios de segurança e correção de falhas, segundo a Wired.
Character.AI disse que não autorizou a ação e que ela fere políticas da plataforma. “Essa suposta ação não é apenas uma violação dos nossos Termos de Serviço, mas também uma violação dos personagens e mundos que nossa comunidade criou”, afirmou um porta-voz da empresa, em email à Wired.
