Tensorflow: novedades en el módulo de privacidad

30 junio, 2020
6 Compartido 986 Visualizaciones

La nueva biblioteca te permite predecir si se utilizó un dato específico durante el entrenamiento.

En 2019, TensorFlow añadió TensorFlow Privacy para gestionar la privacidad dentro de los modelos de IA. Ahora añade una nueva biblioteca de pruebas de privacidad que permitirá a los desarrolladores analizar las propiedades de privacidad de los modelos de clasificación.

La privacidad es un aspecto primordial actualmente, controlar y gestionar los datos que se manejan para entrenar un sistema de Inteligencia Artificial es importante, sobre todo para evitar que haya fugas de información. Google hace un tiempo ya integró la privacidad diferencial, esto permite añadir ruido al conjunto de datos de entrenamiento y así ocultar ejemplos individuales. Pero, con este sistema no se terminó de obtener los resultados deseados.

Ataque de inferencia de membresia con TensorFlow

Este nuevo sistema ha sido desarrollado por la Universidad de Cornell, y ahora Google ha decidido añadirlo como una nueva biblioteca a TensorFlow Privacy. Esta nueva metodología predice si se utilizó un dato específico durante el entrenamiento.

La Universidad de Edimburgo y el Instituto Alan Turing se inspiraron en el ataque de inferencia de membresia para saber si un modelo puede olvidar los datos para garantizar la privadad.

Una de las mayores ventajas de este sistema es que no es necesario el re-entrenamiento. 

Prubea de funcionamiento

Para saber si realmente este sistema de privacidad daba buenos resultados se realizó una prueba con el modelo de CIFRA10, un conjunto de datos de clasificación de objetos.

Los resultados de la prueba son los que aparecen en la siguiente gráfica.

Imagen optenida del blog de TensorFlow

Te podría interesar

SAS presenta sus innovadoras soluciones en el IoT Solutions World Congress 2018 en Barcelona
Actualidad
25 compartido1,388 visualizaciones
Actualidad
25 compartido1,388 visualizaciones

SAS presenta sus innovadoras soluciones en el IoT Solutions World Congress 2018 en Barcelona

Vicente Ramírez - 16 octubre, 2018

SAS estará presente en el Congreso Mundial IOT Solutions World Congress 2018, el evento internacional líder que une Internet de las Cosas con la industria, que tendrá…

DoNotPay aprovecha las lagunas legales para obtener vuelos más baratos
Inteligencia Artificial
56 compartido2,302 visualizaciones
Inteligencia Artificial
56 compartido2,302 visualizaciones

DoNotPay aprovecha las lagunas legales para obtener vuelos más baratos

José Luis Arcángel - 29 marzo, 2018

El nuevo servicio de DoNotPay espera ahorrar a los usuarios cientos de dólares en billetes de avión mediante la explotación automática de las lagunas legales. Un nuevo servicio…

Las mejores técnicas de business intelligence
BD Network
7 compartido1,202 visualizaciones
BD Network
7 compartido1,202 visualizaciones

Las mejores técnicas de business intelligence

Redacción BDM - 6 julio, 2020

Cuando quieres aplicar el business intelligence a tu negocio, no vale solo con introducirlo y ya, sino que es necesario tener claros los objetivos que se quieren…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.