Durante años, la industria tecnológica ha confiado en una escala de seis tonos para clasificar los tonos de piel. La alternativa de código abierto del gigante de las búsquedas podría cambiar eso.
Durante años las empresas tecnológicas han confiado en la escala de Fitzpatrick para clasificar los tonos de piel en sus algoritmos de visión por ordenador. Este sistema, diseñado originalmente para los dermatólogos en la década de 1970, solo incluye seis tonos de piel, lo que puede contribuir a los fallos bien documentados de la IA a la hora de identificar a las personas de color. Ahora Google está empezando a incorporar un estándar de 10 tonos de piel en todos sus productos, llamado escala de tono de piel Monk (MST), desde las imágenes de búsqueda de Google hasta Google Photos y más allá. El desarrollo tiene el potencial de reducir el sesgo en los conjuntos de datos utilizados para entrenar la IA en todo, desde la atención médica hasta la moderación de contenidos.
Google señaló por primera vez planes para ir más allá de la escala Fitzpatrick el año pasado. Internamente, el proyecto se remonta a un esfuerzo realizado en el verano de 2020 por cuatro mujeres negras en Google para hacer que la IA «funcione mejor para la gente de color», según un hilo de Twitter de Xango Eyeé, un gerente de producto de IA responsable en la empresa. En la conferencia Google I/O , la empresa ha detallado el amplio impacto que podría tener el nuevo sistema en sus numerosos productos. Google también abrirá el MST, lo que significa que podría sustituir a Fitzpatrick como estándar de la industria para evaluar la equidad de las cámaras y los sistemas de visión por ordenador.
Algoritmos para identificar el tono de piel
La escala de tono de piel de Monk lleva el nombre de Ellis Monk, un sociólogo de la Universidad de Harvard que lleva décadas investigando el impacto del colorismo en la vida de los negros en Estados Unidos. Monk creó la escala en 2019 y trabajó con ingenieros e investigadores de Google para incorporarla al desarrollo de productos de la compañía.
«La realidad es que las oportunidades de vida, las oportunidades, todas estas cosas están muy ligadas a tu composición fenotípica», dijo Monk en comentarios preparados en un video mostrado en I/O. «Podemos eliminar estos sesgos en nuestra tecnología desde una fase realmente temprana y asegurarnos de que la tecnología que tenemos funciona igual de bien en todos los tonos de piel. Creo que esto es un gran paso adelante».
Un análisis inicial realizado por Monk y los científicos de investigación de Google el año pasado descubrió que los participantes se sentían mejor representados por el MST que por la escala de Fitzpatrick. En una pregunta frecuente publicada el miércoles, Google afirma que tener más de 10 tonos de piel puede añadir complejidad sin valor adicional, a diferencia de sectores como el del maquillaje, donde empresas como Fenty Beauty de Rihanna ofrecen más de 40 tonos. Google sigue trabajando para validar la escala de tonos de piel de Monk en lugares como Brasil, India, México y Nigeria, según una fuente familiarizada con el asunto. Se esperan más detalles en breve en un artículo de investigación académica.
La empresa va a ampliar el uso del MST. Google Images ofrecerá una opción para ordenar los resultados de búsqueda relacionados con el maquillaje por tono de piel basándose en la escala, y los filtros para personas con más melanina llegarán a Google Photos a finales de este mes. Si Google adopta la escala de 10 tonos de piel en todas sus líneas de productos, podría tener implicaciones para la evaluación justa de los algoritmos utilizados en los resultados de búsqueda de Google, los teléfonos inteligentes Pixel, los algoritmos de clasificación de YouTube, los coches de autoconducción Waymo, etc.
