La Inteligencia Artificial contra el ‘revenge porn’ en las RRSS

19 marzo, 2019
19 Compartido 2,240 Visualizaciones

Una de las tendencias más preocupantes y que está proliferando con mayor rapidez en la arena online es el conocido como ‘revenge porn’. Se trata de contenidos audiovisuales en los que se muestran actividades sexuales o desnudos de una expareja, compartidos por el otro miembro de la relación una vez ésta ha acabado.

Una lacra que afecta no solo a la privacidad de la persona afectada, sino también a su dignidad misma, y que contraviene las políticas de uso básicas de cualquier red social. Y, sin embargo, estos vídeos se propagan a la velocidad de la luz en plataformas como Twitter, Facebook o Instagram.

Para luchar contra este problema, estas dos últimas redes sociales han decidido apostar por la inteligencia artificial como forma de detectar mejor los contenidos susceptibles de ser porno vengativo y eliminarlos más rápidamente. «Al utilizar el aprendizaje automático y la IA, ahora podemos detectar de manera proactiva imágenes o vídeos casi desnudos que se comparten sin permiso en Facebook e Instagram«, explica Antigone Davis, jefe de seguridad global de Facebook, en un comunicado.

«A menudo, las víctimas temen las represalias, por lo que son reacias a reportar el contenido por sí mismas o no saben que el contenido ha sido compartido«, continúa la nota de Facebook.

El sistema de detección automatizado identificará las imágenes o vídeos susceptibles de contener elementos íntimos sin consentimiento, para posteriormente ser revisados por un profesional «especialmente capacitado» del departamento de operaciones comunitarias de Facebook. Será este humano, y no la máquina, el que decida si el contenido infringe las normas de uso de la red social y procederá, en su caso, a eliminarlo.

Igualmente, la plataforma de Mark Zuckeberg se reserva la posibilidad de inhabilitar las cuentas que comparten este ‘porn revenge’ (con su correspondiente período de apelación por si se hubiera cometido algún error). Además, cada imagen o vídeo inapropiado -detectado por el sistema o reportado manualmente por los usuarios- será convertido en una «huella digital» que impedirá que ese mismo contenido vuelva a ser compartido por otros usuarios.

«Después de recibir comentarios positivos de las víctimas y las organizaciones de apoyo, ampliaremos este programa piloto en los próximos meses para que más personas puedan beneficiarse de esta opción en una emergencia«, culmina Davis. «También haremos que sea más fácil y más intuitivo para las víctimas informar cuando sus imágenes íntimas se compartan en Facebook. Y en los próximos meses, crearemos un conjunto de herramientas de apoyo a las víctimas para brindarles a las personas de todo el mundo más información con un apoyo relevante a nivel local y cultural«.

Te podría interesar

¿Cómo convertir tu empresa en una Data Driven Company?
Actualidad
14 compartido2,674 visualizaciones
Actualidad
14 compartido2,674 visualizaciones

¿Cómo convertir tu empresa en una Data Driven Company?

Vicente Ramírez - 14 junio, 2018

Cuando hablamos de Data Driven Company, no es sólo hacer uso del dato sino que el dato sea el activo principal, que el dato viaje y esté…

El analista de datos, jugador doce en Rusia
Inteligencia Artificial
66 compartido2,872 visualizaciones
Inteligencia Artificial
66 compartido2,872 visualizaciones

El analista de datos, jugador doce en Rusia

José Luis Arcángel - 15 junio, 2018

Las selecciones demandan estadísticas en tiempo real para analizar el juego al final de cada encuentro e identificar y resolver posibles complicaciones en los partidos. Cada vez…

Las claves del VIII Encuentro Cloud Security Alliance España de ISMS Forum
Actualidad
26 compartido1,233 visualizaciones
Actualidad
26 compartido1,233 visualizaciones

Las claves del VIII Encuentro Cloud Security Alliance España de ISMS Forum

Vicente Ramírez - 29 noviembre, 2018

Durante el día de ayer ISMS Forum celebró su VIII Encuentro Cloud Security Alliance España en CaixaForum de Madrid, jornada durante la cual se debatió los riesgos…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.