Ferramentas de inteligência artificial usadas para triagem de currículos estão criando uma espécie de barreira invisível no mercado de trabalho. Um estudo do Stanford HAI revela que a concentração dessas tecnologias nas mãos de poucos fornecedores não apenas perpetua o preconceito racial, mas também gera rejeições automáticas em cadeia para os mesmos candidatos em diferentes empresas.
REJEIÇÃO EM SÉRIE E O MONOPÓLIO DA IA
Dependência de um mesmo software cria uma “monocultura” que pune o candidato repetidamente.
Segundo o Stanford HAI, quando várias empresas de um mesmo setor usam o mesmo sistema de IA para triagem, o candidato que recebe um “não” na primeira tentativa corre o risco de ser barrado em todas as outras vagas, de forma sistemática e automática, sem que uma pessoa sequer avalie seu currículo.
Estudo aponta que 10% dos candidatos que tentaram quatro vagas diferentes foram rejeitados em todas elas. Para os autores, o resultado acende um alerta: a concentração de mercado de um único fornecedor de IA está tirando a independência das empresas e eliminando as chances de segunda chance para os profissionais.
Cenário é muito pior do que na época em que a seleção era feita por humanos. Para provar essa tese, os pesquisadores compararam os dados atuais com um estudo anterior, feito com 83 mil candidaturas em empresas da Fortune 500 sem o uso de IA. Naquela época, a taxa de rejeição total seguia uma lógica independente, ou seja, ser rejeitado em uma empresa não significava, estatisticamente, que você seria rejeitado nas outras.
Falta de transparência em decisões que mudam vidas preocupa os pesquisadores. Os autores defendem que ferramentas de triagem por IA reúnem três características altamente perigosas: são adotadas em massa, têm peso decisivo no futuro dos candidatos e operam sob segredo comercial, sem qualquer auditoria pública ou independente.
COMO O ESTUDO FOI FEITO
Pesquisa monitorou um volume massivo de 4 milhões de candidaturas de emprego nos EUA. Ao todo, os cientistas analisaram o comportamento de 3,4 milhões de profissionais disputando 1.700 vagas em 150 grandes empresas, divididas em 11 setores. Todas as inscrições passaram por um único software terceirizado de IA que rotulava o candidato simplesmente como “recomendar” ou “não recomendar”.
Sistema de inteligência artificial apresentou indícios claros de discriminação racial. Para medir esse desvio (conhecido como “impacto adverso”), os pesquisadores usaram a mesma regra matemática que a Comissão de Igualdade de Oportunidades de Emprego dos EUA utiliza para fiscalizar violações da legislação trabalhista e de direitos civis no país.
Pelo menos 40 mil candidaturas de minorias foram descartadas pela IA. Em uma simplificação do estudo, os dados revelam que o algoritmo barrou sistematicamente candidatos negros e asiáticos. Se o sistema tivesse avaliado esses grupos com o mesmo critério usado para o grupo mais favorecido (geralmente candidatos brancos), cerca de 40 mil candidaturas a mais teriam avançado para as entrevistas.
O estudo aponta que mais de um quarto (26%) dos candidatos negros e 15% dos asiáticos disputaram vagas em que o sistema operava com viés comprovado contra suas respectivas raças.
Metodologia usada pelas auditorias atuais pode estar escondendo o preconceito. O estudo revela um ponto crítico: se a auditoria analisar o software somando todas as vagas de uma vez, o impacto adverso desaparece nos números gerais. No entanto, quando a análise é feita detalhadamente vaga por vaga, a discriminação racial salta aos olhos, provando que as avaliações superficiais do mercado são falhas.
