Netskope Threat Labs acaba de publicar su último estudio sobre amenazas en Europa, en el que desvela que el 25 % de las empresas del continente bloquean de forma generalizada Grok AI, un chatbot de IA generativa desarrollado por xAI, la empresa propiedad de Elon Musk. Otras empresas y servicios de IA generativa están haciendo un mejor trabajo a la hora de tranquilizar a los europeos sobre su uso seguro, con ChatGPT de OpenAI y Gemini de Google solo bloqueados por completo por el 9,8 % y el 9,2 %, respectivamente.

«Las empresas europeas han optado por establecer diferentes medidas de control para aplicaciones específicas de IA generativa en función de una serie de factores», explica Neil Thacker, responsable global de Privacidad y Protección de Datos de Netskope. «Las organizaciones cada vez son más conscientes de que no todas las aplicaciones gestionan de la misma forma la privacidad de los datos, la propiedad de los datos que se comparten con la aplicación o el nivel de detalle que ofrecen sobre cómo entrenan el modelo con los datos que se comparten en las consultas. Para cumplir con los requisitos de gobernanza de datos, es importante contar con visibilidad y control sobre todas estas variables dentro del entorno empresarial».

La aplicación de IA generativa que más se bloquea en las organizaciones europeas es el generador de imágenes Stable Diffusion, creado por la empresa británica Stability AI.

Entre otras conclusiones importantes del estudio se incluyen las siguientes:

• Más de un tercio de todas las violaciones de las políticas de datos para aplicaciones de IA generativa en Europa (34 %) están relacionadas con datos regulados (datos protegidos por el RGPD y otras normas de privacidad), lo que demostraría la magnitud del riesgo que supone el uso de IA generativa en la región en materia de protección de datos. Otras infracciones de las políticas de datos son el intercambio de código fuente (31 %), la propiedad intelectual (28 %) y las contraseñas y claves (6 %).
• La mayoría de las organizaciones europeas (97 %) utilizan herramientas que incluyen funciones potenciadas por IA generativa (como Atlassian, Grammarly e incluso Microsoft 365 y Google Docs). Sin embargo, el uso de cuentas personales de IA generativa en el lugar de trabajo ha disminuido notablemente durante el último año, pasando del 73 % al 58 %. Este descenso se debe, en parte, a la mejora de la calidad de las soluciones orientadas a las empresas y a una mayor confianza de estas en el control del uso de las cuentas personales en el lugar de trabajo.
• De lejos, la aplicación de IA generativa más utilizada por las organizaciones europeas es ChatGPT (utilizada por el 79 %del total), seguida de Google Gemini (54 %), GitHub Copilot (41 %) y el motor de búsqueda Perplexity AI (35 %).

Al comentar los resultados, Gianpietro Cutolo, analista de amenazas en la nube de Netskope Threat Labs, afirmó: «La adopción de GenAI está aumentando rápidamente en Europa. Estas herramientas se están volviendo omnipresentes en las empresas de toda la región. Sin embargo, esta rápida adopción plantea retos para la seguridad de los datos, y estamos observando un aumento significativo de la exposición de datos confidenciales y regulados a través de estas plataformas. A medida que las empresas se den cuenta de que no toda la IA es igual en lo que se refiere a la seguridad de los datos, veremos que muchas más buscarán ayuda en materia de detección, visibilidad y controles personalizados que les permitan adoptar solo lo que resulte útil y se ajuste a sus propias políticas, y rechazar lo que consideren demasiado arriesgado para su empresa».

Recomendamos a todas las organizaciones que revisen su política de seguridad general y adopten herramientas avanzadas de prevención de pérdida de datos (DLP) capaces de proteger la inteligencia artificial (IA) como parte de una estrategia más amplia de seguridad de los datos de la empresa.

Netskope ofrece protección contra amenazas y seguridad de datos a millones de usuarios de todo el mundo. El estudio de Netskope Threat Labs se basa en datos de uso anonimizados recopilados por la plataforma Netskope One sobre un subconjunto de clientes europeos de Netskope que han dado su autorización previa.