Usar o mesmo algoritmo para contratar prejudica sempre os candidatos? O MIT diz que depende
Um estudo teórico sobre seleção de pessoal contesta respostas simples: a concentração num algoritmo pode alterar a competição por candidatos, mas também reduzir a descoberta de talento.
Se várias empresas recorrerem ao mesmo algoritmo para filtrar candidaturas, uma rejeição poderá repetir-se em todo o mercado? A preocupação é intuitiva: quando todos fazem a mesma pergunta ao mesmo sistema, os seus erros também podem tornar-se comuns. Investigadores do MIT analisaram esta hipótese em modelos de contratação e concluíram que os efeitos de uma chamada monocultura algorítmica dependem do funcionamento do algoritmo e das condições em que é usado.
O trabalho, de Brian Hedden e Manish Raghavan, discute objeções frequentes à adoção de um único sistema de decisão por várias organizações. Uma delas é a exclusão sistemática de candidatos. Nos cenários modelados pelos autores, essa objeção não basta para demonstrar que todas as formas de monocultura prejudicam quem procura emprego: as vagas continuam a ser preenchidas e, em algumas situações, as empresas passam a disputar o mesmo grupo de candidatos, o que pode aumentar o seu poder negocial.
O problema da descoberta
Isso não significa que uniformizar decisões seja inofensivo. A equipa identifica um risco diferente: um algoritmo partilhado pode criar uma espécie de circuito fechado de informação. Se as empresas valorizarem sempre os mesmos sinais, tornam-se menos propensas a descobrir perfis que poderiam desempenhar bem o trabalho, mas que não encaixam no padrão inicialmente favorecido.
Os investigadores exploraram formas de atenuar esse efeito. Em algumas simulações, combinar diferentes métodos de avaliação num sistema conjunto produziu resultados tão bons ou melhores do que os de várias empresas a usar algoritmos separados. A viabilidade prática dessa combinação continua por demonstrar.
Um resultado teórico, não uma licença para automatizar
O estudo não testou plataformas de recrutamento em funcionamento nem mediu resultados salariais reais. Também não elimina questões sobre discriminação, transparência ou a possibilidade de um candidato corrigir os seus dados e contestar uma decisão. Mostra, antes, que a expressão «o mesmo algoritmo para todos» descreve sistemas que podem funcionar de maneiras muito diferentes.
Para avaliar uma ferramenta de seleção, a pergunta relevante deixa de ser apenas quantas empresas a utilizam. Importa saber que informação considera, como lida com erros, se permite revisão e que candidatos deixa de descobrir.
Leia também: Bill Gates pede supervisão pública da IA além da autorregulação.