Las quejas de los usuarios sobre el recorte automático de imágenes de Twitter obliga a la compañía a modificar su algoritmo para evitar que se produzcan situaciones consideradas racistas.

¿Es posible que una máquina o un programa informático estén programados para ser racistas? Si partimos del hecho de que es una persona quien programa los algoritmos, es posible que se puedan dar circunstancias de este tipo. La polémica ha saltado a las redes a raíz de unas críticas recibidas en el sistema de microblogging de Twitter en las que se decía que el algoritmo de este portal priorizaba siempre las imágenes de personas blancas frente a las de personas de otro color.

La polémica surgió a raíz de que un tuitero viera que en un mensaje que contenía una foto demasiado grande para esta red, el algoritmo de Twitter recortaba automáticamente la imagen priorizando las partes de la imagen donde aparecían personas de color blanco.

Y es que el algoritmo de recorte de imágenes selecciona mediante aprendizaje automático la parte de la imagen que se verá en el tuit cuando es demasiado grande y no puede mostrarla al completo. La compañía aseguró en su blog oficial que este sistema se basa “en la prominencia”, que entienden como allí “donde las personas pueden mirar primero” y no en el color de las personas que aparezcan en la imagen.

A pesar de lo que afirmaba la propia empresa, diversos estudios han mostrado que  la selección que realizaba el algoritmo priorizaba las fotos de personas blancas sobre las negras, con el ejemplo de los rostros del expresidente de Estados Unidos, Barack Obama, y del senador republicano Mitch McConnell.

Reducir la dependencia del machine learning

En ese sentido, el algoritmo escogía de manera preferente rostros de tipo caucásico aún cuando se alteraba la posición de las imágenes.

Para evitar que esto se repita, la compañía informó en sus redes que modificará su algoritmo. De esta manera buscará disminuir la dependencia del recorte de imágenes basado en aprendizaje automático para que las personas tengan más control sobre la forma en que se ven sus imágenes en un tuit.