Este tipo de sistema tiene la función de evitar que se propaguen mentiras sobre temas importantes o ayudar a los servicios de emergencias en desastres naturales y brotes de enfermedades.

El sistema que ha incluido Twitter en su plataforma utiliza la inteligencia artificial para distinguir entre información legítima y mensajes generados por bots. El algoritmo con el que trabajan ahora ha sido desarrollado por la Universidad de Adelaida y la agencia de análisis australiana Data 61. Al principio el objetivo era desarrollar un algoritmo para encontrar los eventos importantes que se estaban desarrollando, pero con el paso del tiempo vieron que Twitter necesitaba mucho más descubrir la información falsa que se difunde a través de su red social.

Con los incendios forestales de Australia pudieron hacer las primeras pruebas. Muchos bots y trolls publicaban en sus cuentas #ArsonEmergency para confundir al público.

¿Cómo funciona el algoritmo?

Para educar este tipo de algoritmo lo primero es enseñarle el comportamiento típico de las cuentas automatizadas. Se desveló que estas cuentas tienen una alta frecuencia de tweets, baja diversidad de temas y publican regularmente las mismas URL y hashtags. Mientras que los usuarios reales tuitean sobre diferentes temas, usan varios hashtags, incluyen enlaces variados y etiquetan a otros usuarios.

Aunque, la plataforma de Twitter utiliza ya otras herramientas para encontrar bots, según los investigadores está tiene dos características que le hará triunfar. Primera, no necesita acceso completo a los perfiles de los usuarios, esto ayuda a proteger los datos. Segunda, ofrece información en tiempo real, esto significa que es más rápida que las demás, ya que no tiene que revisar el resto de datos del usuario.