¿Puede ser un algoritmo racista? Twitter modificará el suyo para evitarlo

20 octubre, 2020
6 Compartido 850 Visualizaciones

Las quejas de los usuarios sobre el recorte automático de imágenes de Twitter obliga a la compañía a modificar su algoritmo para evitar que se produzcan situaciones consideradas racistas.

¿Es posible que una máquina o un programa informático estén programados para ser racistas? Si partimos del hecho de que es una persona quien programa los algoritmos, es posible que se puedan dar circunstancias de este tipo. La polémica ha saltado a las redes a raíz de unas críticas recibidas en el sistema de microblogging de Twitter en las que se decía que el algoritmo de este portal priorizaba siempre las imágenes de personas blancas frente a las de personas de otro color.

La polémica surgió a raíz de que un tuitero viera que en un mensaje que contenía una foto demasiado grande para esta red, el algoritmo de Twitter recortaba automáticamente la imagen priorizando las partes de la imagen donde aparecían personas de color blanco.

Y es que el algoritmo de recorte de imágenes selecciona mediante aprendizaje automático la parte de la imagen que se verá en el tuit cuando es demasiado grande y no puede mostrarla al completo. La compañía aseguró en su blog oficial que este sistema se basa “en la prominencia”, que entienden como allí “donde las personas pueden mirar primero” y no en el color de las personas que aparezcan en la imagen.

A pesar de lo que afirmaba la propia empresa, diversos estudios han mostrado que  la selección que realizaba el algoritmo priorizaba las fotos de personas blancas sobre las negras, con el ejemplo de los rostros del expresidente de Estados Unidos, Barack Obama, y del senador republicano Mitch McConnell.

Reducir la dependencia del machine learning

En ese sentido, el algoritmo escogía de manera preferente rostros de tipo caucásico aún cuando se alteraba la posición de las imágenes.

Para evitar que esto se repita, la compañía informó en sus redes que modificará su algoritmo. De esta manera buscará disminuir la dependencia del recorte de imágenes basado en aprendizaje automático para que las personas tengan más control sobre la forma en que se ven sus imágenes en un tuit.

Te podría interesar

Los 4 pilares fundamentales para construir las Smart Cities
Actualidad
12 compartido3,395 visualizaciones
Actualidad
12 compartido3,395 visualizaciones

Los 4 pilares fundamentales para construir las Smart Cities

Vicente Ramírez - 23 agosto, 2018

Tecnología, gobierno y sociedad son los pilares fundamentales para comenzar a construir “smart cities”. Poco a poco y con mayor ímpetu va ganando fuerza el concepto de…

Levi’s avanza en blockchain en alianza con Harvard
Actualidad
24 compartido3,038 visualizaciones
Actualidad
24 compartido3,038 visualizaciones

Levi’s avanza en blockchain en alianza con Harvard

José Luis Arcángel - 30 enero, 2019

La compañía americana utilizará esta tecnología en tres fábricas en México con las que trabaja para mejorar los actuales sistemas de auditorías de las condiciones laborales. El…

El Big Data, aliado clave del sector turístico para convivir con el Covid19
Actualidad
6 compartido1,702 visualizaciones
Actualidad
6 compartido1,702 visualizaciones

El Big Data, aliado clave del sector turístico para convivir con el Covid19

Redacción BDM - 24 julio, 2020

[caption id="attachment_19318" align="alignright" width="400"] Esther Morales, socia de PiperLab.[/caption] A día de hoy el sector turístico representa el 10% del PIB mundial. Según la Organización Mundial del…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.