Cenário é muito pior do que na época em que a seleção era feita por humanos. Para provar essa tese, os pesquisadores compararam os dados atuais com um estudo anterior, feito com 83 mil candidaturas em empresas da Fortune 500 sem o uso de IA. Naquela época, a taxa de rejeição total seguia uma lógica independente, ou seja, ser rejeitado em uma empresa não significava, estatisticamente, que você seria rejeitado nas outras.
Falta de transparência em decisões que mudam vidas preocupa os pesquisadores. Os autores defendem que ferramentas de triagem por IA reúnem três características altamente perigosas: são adotadas em massa, têm peso decisivo no futuro dos candidatos e operam sob segredo comercial, sem qualquer auditoria pública ou independente.
Como o estudo foi feito
Pesquisa monitorou um volume massivo de 4 milhões de candidaturas de emprego nos EUA. Ao todo, os cientistas analisaram o comportamento de 3,4 milhões de profissionais disputando 1.700 vagas em 150 grandes empresas, divididas em 11 setores. Todas as inscrições passaram por um único software terceirizado de IA que rotulava o candidato simplesmente como “recomendar” ou “não recomendar”.
Sistema de inteligência artificial apresentou indícios claros de discriminação racial. Para medir esse desvio (conhecido como “impacto adverso”), os pesquisadores usaram a mesma regra matemática que a Comissão de Igualdade de Oportunidades de Emprego dos EUA utiliza para fiscalizar violações da legislação trabalhista e de direitos civis no país.
Pelo menos 40 mil candidaturas de minorias foram descartadas pela IA. Em uma simplificação do estudo, os dados revelam que o algoritmo barrou sistematicamente candidatos negros e asiáticos. Se o sistema tivesse avaliado esses grupos com o mesmo critério usado para o grupo mais favorecido (geralmente candidatos brancos), cerca de 40 mil candidaturas a mais teriam avançado para as entrevistas. O estudo aponta que mais de um quarto (26%) dos candidatos negros e 15% dos asiáticos disputaram vagas em que o sistema operava com viés comprovado contra suas respectivas raças.
