Google lanzará un software que ayude a detectar con mayor facilidad el CSAM completamente gratuito y será compartido a varias ONG y proveedores de internet interesados. ‘Machine learning‘ e IA de Google combatirán el Material de Abuso Sexual Infantil en la web.
El Material de Abuso Sexual Infantil (CSAM) es mucho más común de lo que creemos. Seguramente se encuentra en algún lugar de la deep web, transitando entre las manos de distintos pedófilos. Ante esto, existen organizaciones dedicadas a eliminar este tipo de contenidos como Internet Watch Foundation. No obstante, el esfuerzo se hace realmente difícil por la gran cantidad de material que está allí afuera.
Teniendo todo esto en cuenta, Google anunció que lanzará un software que ayude a detectar con mayor facilidad el CSAM. Este será completamente gratuito y será compartido a varias ONG y proveedores de internet interesados en luchar contra la pornografía infantil.
¿Cómo funcionaría?
El software con esta capacidad ya existía con anterioridad pero era algo limitado. Tecnología como ‘PhotoDNA‘ de Microsoft permite dar alertas sobre fotos y videos que ya hayan sido identificados antes. No obstante, se requería que un moderador humano previamente haya catalogado un material como CSAM para que la IA lo identificara. Como resultado, todo el contenido que no ha sido marcado antes como ilegal queda por fuera de su alcance.
Google plantea una solución más efectiva. La compañía pretende usar redes neuronales para escanear en poco tiempo una gran cantidad de imágenes. Así, en su criterio podrá marcar el material con mayor prioridad de revisión. Esto le ayudará a los moderadores humanos a dar un veredicto más rápido y eliminar el contenido de manera ágil en caso de ser CSAM. En otras palabras: menos tiempo, más material que los moderadores pueden marcar y eliminar.
Esto será posible gracias a la compleja implementación de machine learning de Google. A partir de haber analizado miles de imágenes, la IA será capaz de diferenciar una de otra. Según la empresa, los moderadores aumentarán su eficiencia en un 700%.
Google aclaró que el software estará disponible a través de su kit de programación de seguridad de contenido: »Estamos poniendo esto a disposición de las ONG y los socios de la industria de forma gratuita a través de nuestra API de seguridad de contenido, un conjunto de herramientas para aumentar la capacidad de revisar el contenido de una manera que requiere que menos personas estén expuestas a él«.
