.png){kind=logo}
A IA não nasce preconceituosa.
Mas ela pode aprender muito bem os nossos preconceitos.
E é exatamente isso que deveria preocupar empresas que estão colocando inteligência artificial para participar de decisões sobre pessoas
-Recrutamento
-Promoção
-Avaliação de desempenho.
-Sucessão.
-Remuneração.
-Identificação de talentos.
A promessa é sedutora: usar tecnologia para tomar decisões mais rápidas, eficientes e baseadas em dados.
Mas existe uma questão anterior.
De onde vieram esses dados?
Imagine uma empresa que, historicamente, promoveu muito mais homens brancos para posições de liderança.
Agora imagine utilizar os dados dessas promoções para ensinar uma IA a reconhecer quem tem “perfil de liderança”.
O algoritmo pode não conhecer racismo ou sexismo da maneira como nós conhecemos.
Mas ele consegue identificar padrões.
E pode aprender que o perfil historicamente escolhido é o perfil que deve continuar sendo escolhido.
Percebe o problema?
Quando usamos o passado para ensinar a tecnologia a decidir o futuro, podemos automatizar desigualdades que estamos tentando superar. Por isso, discutir IA dentro das empresas não pode ser responsabilidade apenas da área de tecnologia.
-RH precisa estar nessa conversa.
-Diversidade precisa estar nessa conversa.
-Jurídico precisa estar nessa conversa.
-Lideranças precisam estar nessa conversa.
E, principalmente, precisamos perguntar:
Quem construiu os critérios?
Quais dados estão alimentando essa decisão?
Quem está sendo beneficiado?
Quem pode estar sendo excluído?
E quem questiona a máquina quando ela reproduz aquilo que sempre fizemos?
Eu acredito profundamente no potencial da inteligência artificial.
Mas acredito igualmente em outra coisa:tecnologia sem pensamento crítico não elimina nossos vieses.
Pode apenas torná-los mais rápidos, sofisticados e difíceis de enxergar.
O futuro do trabalho não será definido apenas pela IA que construirmos.
Será definido também pelos valores que escolhermos colocar dentro dela.
Comentários