La Inteligencia Artificial contra el ‘revenge porn’ en las RRSS

19 marzo, 2019
19 Compartido 2,627 Visualizaciones

Una de las tendencias más preocupantes y que está proliferando con mayor rapidez en la arena online es el conocido como ‘revenge porn’. Se trata de contenidos audiovisuales en los que se muestran actividades sexuales o desnudos de una expareja, compartidos por el otro miembro de la relación una vez ésta ha acabado.

Una lacra que afecta no solo a la privacidad de la persona afectada, sino también a su dignidad misma, y que contraviene las políticas de uso básicas de cualquier red social. Y, sin embargo, estos vídeos se propagan a la velocidad de la luz en plataformas como Twitter, Facebook o Instagram.

Para luchar contra este problema, estas dos últimas redes sociales han decidido apostar por la inteligencia artificial como forma de detectar mejor los contenidos susceptibles de ser porno vengativo y eliminarlos más rápidamente. «Al utilizar el aprendizaje automático y la IA, ahora podemos detectar de manera proactiva imágenes o vídeos casi desnudos que se comparten sin permiso en Facebook e Instagram«, explica Antigone Davis, jefe de seguridad global de Facebook, en un comunicado.

«A menudo, las víctimas temen las represalias, por lo que son reacias a reportar el contenido por sí mismas o no saben que el contenido ha sido compartido«, continúa la nota de Facebook.

El sistema de detección automatizado identificará las imágenes o vídeos susceptibles de contener elementos íntimos sin consentimiento, para posteriormente ser revisados por un profesional «especialmente capacitado» del departamento de operaciones comunitarias de Facebook. Será este humano, y no la máquina, el que decida si el contenido infringe las normas de uso de la red social y procederá, en su caso, a eliminarlo.

Igualmente, la plataforma de Mark Zuckeberg se reserva la posibilidad de inhabilitar las cuentas que comparten este ‘porn revenge’ (con su correspondiente período de apelación por si se hubiera cometido algún error). Además, cada imagen o vídeo inapropiado -detectado por el sistema o reportado manualmente por los usuarios- será convertido en una «huella digital» que impedirá que ese mismo contenido vuelva a ser compartido por otros usuarios.

«Después de recibir comentarios positivos de las víctimas y las organizaciones de apoyo, ampliaremos este programa piloto en los próximos meses para que más personas puedan beneficiarse de esta opción en una emergencia«, culmina Davis. «También haremos que sea más fácil y más intuitivo para las víctimas informar cuando sus imágenes íntimas se compartan en Facebook. Y en los próximos meses, crearemos un conjunto de herramientas de apoyo a las víctimas para brindarles a las personas de todo el mundo más información con un apoyo relevante a nivel local y cultural«.

Te podría interesar

El Premio Sacyr a la innovación lo ha ganado Ártabro Tech
Actualidad
7 compartido1,587 visualizaciones1
Actualidad
7 compartido1,587 visualizaciones1

El Premio Sacyr a la innovación lo ha ganado Ártabro Tech

Georgina Ortíz - 4 diciembre, 2019

En la novena edición de los premios llegaron a la final empresas como Zerintia, Kwido e Informática El Corte Inglés. La startup gallega, Ártabro Tech, acudió al…

¿Cuáles serán las tendencias en los centros de datos para 2020?
Actualidad
9 compartido1,543 visualizaciones
Actualidad
9 compartido1,543 visualizaciones

¿Cuáles serán las tendencias en los centros de datos para 2020?

Georgina Ortíz - 9 diciembre, 2019

Las tendencias de 2019 son las que marcan directamente como va a evolucionar el mercado y que cosas nos vamos a encontrar en 2020.  Aunque a veces…

AI Business Congress | Mesa redonda II – Visión y futuro de la AI
Actualidad
7 compartido1,178 visualizaciones
Actualidad
7 compartido1,178 visualizaciones

AI Business Congress | Mesa redonda II – Visión y futuro de la AI

José Luis Arcángel - 13 enero, 2021

Ferrovial Servicios, GE Women’s Health, Osmotic y Bankia con la moderación de Experis, protagonizaron la segunda mesa redonda del evento. El pasado mes de diciembre celebramos la…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.