Empresas como Amazon han tenido problemas al usar los algoritmos, ya que son ellos los que determinan si un empleado hace bien o no su trabajo.

Desde hace unos años el empleo de algoritmos se ha convertido en uno más. Hoy en día se dice que se utilizan para todo. Un algoritmo puede ayudar a determinar si padeces una enfermedad genética, pero también puede servir para controlar y automatizar una ciudad inteligente. La IA no tiene límites, al menos, no ahora.

La Inteligencia Artificial ha pasado de ser algo desconocido a implicarse en la toma de decisiones más importantes de la vida de una persona. Desde el orden en el que aparece nuestro CV cuando se envía a una empresa, la publicidad que aparece en Internet cuando se navega o el que un semáforo se ponga en verde cuando un coche se acerca tiene que ver con la integencia artificial.

Pero, ¿cómo funcionan estos sistemas? La respuesta es bien sencilla. Funcionan según quién los construya, qué datos se tomen en cuenta y cómo se mida esta información. Hay quien piensa que estos sistemas ya se han vuelto incontrolables. ¿Son la solución a todo tipo de problemas?

Expertos de Silicon Valley comparan la situación con la época en la que aún no existían cinturones de seguridad y un ejército de programadores que no entienden la complejidad del mundo que tienen que codificar. “En un principio, nadie tiene intención de discriminar. El problema es que el CEO o el equipo técnico de una empresa compran un algoritmo y acaban siendo víctimas de él”, añade Gemma Galdón, investigadora y fundadora de Eticas Consulting.

El peligro de los algoritmos

Los algoritmos pueden dar muchas alegrías, pero también algún que otro quebradero de cabeza. Es el ejemplo de lo que le pasó a Amazon en el año 2018. La empresa tuvo que despedir  a su herramienta de contratación, por convertirse en un reclutador sexista. El sistema basó sus patrones en la información de candidatos de la última década, la mayoría hombres, y restó oportunidades a las mujeres. Ahora, parece ser que la empresa vuelve a estar en el punto de mira. Todo se debe a un supuesto correo automatizado que envía para despedir a los empleados tras ‘pensar’ que no estaban haciendo bien su trabajo.