La gente está menos indignada por la discriminación de género causada por los algoritmos.

Las empresas y los gobiernos están utilizando algoritmos para mejorar la toma de decisiones en materia de contratación, atención médica y libertad condicional. Los algoritmos tienen el potencial de sustituir los prejuicios humanos en la toma de decisiones, pero a menudo llegan a conclusiones discriminatorias.

Un nuevo estudio de la Asociación Americana de Psicología examina si las personas se sienten menos indignadas por la discriminación algorítmica que por la humana. La investigación sugiere que las personas se sienten menos indignadas moralmente cuando la discriminación por razón de sexo se debe a un algoritmo y no a la participación directa de un ser humano.

Ocho estudios ponen a prueba esta hipótesis del déficit de indignación algorítmica en el contexto de la discriminación por razón de sexo en las prácticas de contratación de diversos grupos de participantes. Para explicar sus resultados de ocho ensayos con un total combinado de más de 3.900 personas de Estados Unidos, Canadá y Noruega, los científicos del estudio crearon el término «déficit de indignación algorítmica».

Algoritmos que discriminan

Cuando se les presentaron varios escenarios sobre la discriminación de género en las decisiones de contratación causada por algoritmos y por humanos, los participantes se mostraron menos indignados moralmente con las causadas por los algoritmos. Los participantes también creían que las empresas eran menos responsables legalmente por la discriminación debida a un algoritmo.

El investigador principal, el doctor Yochanan Bigman, investigador postdoctoral de la Universidad de Yale, dijo: «Es preocupante que las empresas puedan utilizar los algoritmos para protegerse de la culpa y del escrutinio público sobre las prácticas discriminatorias. Los hallazgos podrían tener implicaciones más amplias y afectar a los esfuerzos para combatir la discriminación».

«La gente ve a los humanos que discriminan como motivados por los prejuicios, como el racismo o el sexismo, pero ven a los algoritmos que discriminan como motivados por los datos, por lo que están menos indignados moralmente. La indignación moral es un mecanismo social importante para motivar a la gente a hacer frente a las injusticias. Si la gente está menos indignada moralmente por la discriminación, podría estar menos motivada para hacer algo al respecto».