Los ciberdelicuentes se valen de la inteligencia artificial a través de la aplicación WormGPT para conseguir más efectividad en sus ataques.
En la actualidad, la inteligencia artificial (IA) recibe elogios por su capacidad para agilizar procesos, automatizar tareas mundanas, como completar un calendario, y, en general, simplificar la vida. Sin embargo, han surgido informes que indican que hackers están utilizando una herramienta similar llamada WormGPT en su beneficio. Se trata de una variante de ChatGPT que los ciberdelincuentes específicamente emplean para crear ataques de phishing y llevar a cabo otras actividades maliciosas.
Estos ataques de phishing involucran el envío de mensajes de correo electrónico, mensajes de texto y llamadas fraudulentas que engañan a las personas para que descarguen malware, compartan información confidencial (como su número de seguridad social, credenciales de inicio de sesión o número de tarjeta de crédito) y realicen otras acciones que puedan exponerlos a los ciberdelincuentes. WormGPT se utiliza especialmente para crear ataques de «Business Email Compromise» (BEC), que son ataques de phishing dirigidos a empresas de gran envergadura.
Estos correos electrónicos a menudo se personalizan para que el destinatario se sienta seguro y haga clic en un enlace que conduce a un ataque. Gracias al poder de la inteligencia artificial, la frecuencia de estos ataques ha aumentado de manera significativa, según Maanak Gupta, profesor adjunto de informática en Tennessee Tech.
¿Qué es WormGPT?
WormGPT es un módulo de IA basado en el modelo de lenguaje GPT-J de 2021. GPT-J es un gran modelo de lenguaje de código abierto capaz de generar texto similar al humano, al igual que lo hace ChatGPT. Su carácter de código abierto, en contraste con OpenAI, el laboratorio que gestiona ChatGPT, significa que cualquiera puede examinar, compartir e incluso modificar su código fuente. Esto, sumado a la ausencia de restricciones antiabuso que impiden a ChatGPT utilizar lenguaje ofensivo, promover odio o crear virus, permite que WormGPT cumpla las peticiones de los hackers.
Es importante destacar que los resultados de WormGPT no son más complejos que lo que un ser humano podría generar. La utilidad de este tipo de programas, cuando se utilizan para fines legítimos, reside en su facilidad de uso y velocidad, más que en la complejidad de lo que pueden crear. WormGPT es especialmente preocupante porque reduce las barreras de entrada, permitiendo que prácticamente cualquiera lo descargue en su ordenador y cause estragos.
Otros métodos de explotación por parte de los hackers Además de WormGPT, los hackers también pueden explotar ChatGPT para sus propósitos. Esto implica «jailbreaking» de plataformas existentes de modelos de lenguaje de gran tamaño (LLM), como ChatGPT, para desbloquear nuevas funcionalidades. Esto podría dar lugar a herramientas que pueden extraer información sensible, manipular ChatGPT para crear contenido inapropiado, divulgar datos confidenciales e incluso ejecutar código dañino.
Sin usar código
Lo que es aún más alarmante es que estos «jailbreaks» no incluyen ningún código en sí, son simplemente instrucciones que se copian y pegan en ChatGPT de forma convencional. La mayoría de estas instrucciones se han publicado en GitHub, un sitio web que permite a los desarrolladores almacenar, administrar y, en ocasiones, compartir su código. Esto hace que sea relativamente sencillo para cualquier persona encontrar estas instrucciones en Google. Sin embargo, tras una investigación, parece que ChatGPT ha implementado salvaguardias contra estos ataques, y muchas de estas instrucciones simplemente reciben respuestas como «lo siento, pero no puedo ayudar con esa solicitud».
La mejor defensa contra WormGPT «Es crucial proporcionar formación a los trabajadores para que utilicen estas herramientas generativas basadas en IA de modelos de gran lenguaje tanto en ciberdefensa como en ataques», afirma Gupta. Los expertos en ciberseguridad adoptan la mentalidad de los atacantes, lo cual es clave para el éxito en la contramedida. Afortunadamente, estos expertos han utilizado la inteligencia artificial para detectar y prevenir posibles ataques antes de que ocurran.
A pesar de la velocidad con la que los ciberdelicuentes pueden actuar, la mejor defensa sigue siendo la misma: mantenerse alerta y no hacer clic en enlaces sospechosos. Según Gupta, «la falta de concienciación entre los empleados y las organizaciones es la mayor vulnerabilidad que un adversario puede aprovechar para infiltrarse en el sistema».