TFCO: la biblioteca de código abierto para entrenar modelos de Machine Learning

Esta biblioteca ha sido creada por Google y tiene como principal objetivo evitar que este tipo de sistema caiga en discriminación.

La mayoría de las tecnologías que implementan el Machine Learning están teniendo un impacto cada vez más positivo en el «día a día» de las personas, ya que ayuda a detectar de forma prematura los signos de enfermedades o filtra los contenidos inapropiados. Sin embargo, existe una preocupación creciente de que los modelos aprendidos pueden tener dificultades para abordar cuestiones sociales más amplias, como la equidad, que generalmente requiere múltiples consideraciones y estos sistemas tienden a atender una sola función. Incluso cuando se tienen en cuenta estos factores, estos sistemas pueden seguir siendo incapaces de satisfacer los requisitos de diseño  complejos.

Esta biblioteca quiere ayudar a solucionar estos problemas, por eso, facilita la configuración y el entrenamiento de problemas de aprendizaje automático basado en múltiples métricas (por ejemplo la tasa de recuperación del cáncer atendiendo a la edad y el sexo). Aunque, estas metricas son simples conceptualmente, al ofrecer al usuario la capacidad de minimizar y restringir combinaciones arbitrarias de ellas, TensorFlow Constrained Optimization (TFCO) facilita la formulación y soluciona muchos de los problemas que se encuentran para tener un ML que tenga equidad. 

¿Cómo interacciona el TFCO con nuestra IA?

Nos ayudará a guiar aún más el desarrollo ético y el uso de la IA en las investigaciones, así como en la práctica. Cuando los desarrolladores hacen uso del TFCO podrán identificar de forma sencilla dónde sus modelos pueden ser de riesgo y dañinos, y establecer restricciones que garanticen que sus modelos logren resultados deseables.

¿Cuáles son los objetivos?

Los sistemas de IA que se dedican a decidir si una persona puede recibir o no un préstamo suelen presentar muchos problemas. Se suelen analizar diferentes características de la persona y poner etiquetas positivas o negativas a cada una de ellas, siendo esta última la que afecta para la denegación del préstamo.

Con el TFCO, elegiríamos una función objetiva que premie el modelo de concesión de préstamos a aquellas personas que los pagarán, y también impondría restricciones de equidad que le impiden negar injustamente préstamos a ciertos grupos protegidos. En TFCO esto se representa con expresiones algebraicas (mediante operadores Python normales).

TE PUEDE GUSTAR

Bain & Company ha adquirido PiperLab, compañía española especializada en soluciones de Inteligencia Artificial y Machine Learning (ML), con el objetivo de ampliar su oferta

EVENTOS

RECIBE NUESTRA NEWSLETTER

*Email:

*Nombre:

*Empresa:

Cargo:

Sector:
     

Please don't insert text in the box below!

ESCUCHA NUESTRO PODCAST

SÍGUENOS EN RRSS

MÁS COMENTADOS

Scroll al inicio