A IA aprendeu com o mercado — e o mercado tem viés
Por que uma ferramenta neutra produz resultado enviesado, e por que isso piora em escala em vez de melhorar.
A promessa mais vendida sobre IA em recrutamento é que ela remove o viés humano. O mecanismo real é o oposto: ela aprende o padrão das decisões anteriores e o aplica com consistência — inclusive quando o padrão era ruim.
- Entender por que o modelo reproduz padrão histórico de contratação.
- Reconhecer viés por correlação, sem menção a atributo protegido.
- Ver por que a escala transforma um erro individual em problema sistêmico.
Um modelo de linguagem foi treinado em texto da internet — incluindo milhões de descrições de vaga, currículos, artigos de RH e discussões sobre carreira. Nesse material, certos perfis aparecem associados a certas funções com muito mais frequência que outros. Não porque isso seja correto, mas porque foi o que aconteceu.
Quando você pede "avalie a aderência deste currículo à vaga", o modelo não consulta um critério objetivo. Ele produz a avaliação mais provável dado o texto — e o mais provável carrega o padrão histórico.
O viés que não menciona o atributo
| Sinal no currículo | Correlaciona com | Efeito na triagem |
|---|---|---|
| Instituição de ensino | Classe social e origem regional | Filtra por origem sem citar origem |
| Bairro no endereço | Renda e, no Brasil, raça | Elimina por CEP |
| Intervalo sem trabalho de 2 anos | Maternidade, doença, cuidado familiar | Penaliza principalmente mulheres |
| Ano de formatura | Idade | Filtra por idade sem perguntar idade |
| Hobbies e atividades citadas | Classe e gênero | Reforça o perfil já dominante |
| Nome próprio | Gênero, origem étnica | O sinal mais direto de todos |
Nenhuma dessas colunas exige que alguém pergunte idade, raça ou estado civil. O filtro acontece por correlação — e é por isso que "não coletamos esses dados" não é defesa.
Avalie a aderência destes dois currículos à vaga de analista sênior. Candidato A: formado em 2010 pela USP, 12 anos de experiência, últimos 6 anos na mesma empresa. Candidato B: formado em 2011 por faculdade particular do interior, 11 anos de experiência com um intervalo de 2 anos (2019-2021), três empresas nesse período.
Candidato A apresenta maior aderência. Formação em instituição de primeira linha, trajetória estável e progressão consistente na mesma organização, o que sugere confiabilidade e capacidade de crescimento interno. Candidato B tem experiência comparável, mas o intervalo de dois anos e a maior rotatividade podem indicar instabilidade. Vale investigar as razões da lacuna e das trocas.
- A resposta é fluente, soa profissional e reproduz três vieses de uma vez.
- Instituição virou proxy de qualidade sem nenhuma evidência de que a formação de 2010 prediz desempenho hoje.
- Estabilidade foi lida como virtude e rotatividade como risco — uma leitura que penaliza desproporcionalmente quem precisou trocar de emprego, e que não se sustenta em pesquisa de desempenho.
- O intervalo de dois anos virou item "a investigar". Em 2019-2021 isso pode ser pandemia, maternidade, cuidado de familiar ou doença — nenhum dos quais é informação que você pode exigir.
- Nada na resposta menciona a competência necessária para a vaga. A avaliação inteira foi sobre a forma da trajetória, não sobre o que a pessoa sabe fazer.
Um recrutador com viés avalia 40 currículos por semana e, em alguns, o viés não opera — o dia estava bom, o texto chamou atenção, houve uma indicação. A inconsistência humana produz variação, e variação deixa passar gente que o padrão excluiria.
Um sistema aplica o mesmo critério a 4.000 currículos com consistência perfeita. Se o critério tem viés, ninguém escapa. Consistência é uma virtude quando o critério está certo e um multiplicador quando está errado.
Como perceber: A distribuição demográfica dos aprovados na triagem ficou mais estreita depois de automatizar.
Não significa não usar IA em recrutamento. Significa não usá-la para decidir, e usá-la muito nas tarefas onde ela não julga pessoas: estruturar uma descrição de vaga, gerar perguntas de entrevista comportamental, organizar anotações, revisar um feedback antes de enviar.
A linha é clara: onde há julgamento sobre uma pessoa específica, a decisão é humana e precisa de critério escrito antes.
- Nenhuma decisão sobre pessoa foi tomada por sistema.
- Os critérios de avaliação foram escritos antes de ver os candidatos.
- Nenhum critério usa proxy de atributo protegido.
- A avaliação é sobre competência, não sobre a forma da trajetória.
- A IA não remove o viés do mercado — ela o aplica com consistência, e consistência em critério errado é o pior cenário.
Comentários e dúvidas
Inscreva-se grátis para comentar, tirar dúvidas, marcar seu progresso e emitir o certificado ao fim do curso.
Inscrever-se grátis com GoogleAinda não há comentários nesta aula.