São as incorporadoras que definem as características visuais dos chatbots, a personalidade e a forma de se portar. E, nas contas de Veloso, 80% são avatares femininos. “Isso já mostra um problema muito claro. Por que que tem que ser uma figura feminina para ser atendente? Não tem. O que tem é uma discussão complicada aí.”
São justamente os avatares com feições femininas os maiores alvos dos abusos. Não é possível saber ao certo o gênero dos agressores. Mas, dadas as imagens recebidas, algumas mostrando as genitálias e parte do corpo, Veloso estima que homens sejam maioria.
Os mais apressados veriam nas agressões contra a IA o despejo da fúria contra robôs ou mesmo a canalização de uma misoginia latente aproveitando a personificação feminina do serviço. Mas, para Veloso, é mais simples do que isso ?e, de alguma forma, mais perverso também.
A inteligência artificial não reinventou a sociedade. Mas, quando automatiza e começa a olhar para isso, você amplifica. É como se fosse uma grande lupa ali mostrando, ‘olha como a sociedade funciona’. Antes, eu não conseguiria olhar para 25 milhões de atendimentos porque eles estariam sendo feitos por 10 mil atendentes. Agora, eu consigo saber o que aconteceu com cada um
Luis Veloso
Dito de outra forma: o machismo tá aí e, ao menos nesse caso, a crueza da situação só pode ser captada por causa das ferramentas da IA. O executivo, aliás, esperava um cenário pior, uma vez que, desde os testes, 4.848 usuários foram banidos.
Às vezes, a gente pega o caso negativo e fala: ‘nossa, mas é um problema muito grande’. 4,8 mil é coisa para caramba, mas, quando coloca esse número perto de 2,5 milhões de pessoas, você fala: ‘A gente tem um problema, ele é sério, porque uma pessoa dessas pode gerar muitos problemas, mas ele não é difundido na sociedade a ponto de eu sair ali na esquina e esbarrar com alguém necessariamente com esse comportamento’
Luis Veloso, cofundador da Morada.ai
