Multas de hasta 30 millones de euros para las organizaciones que hagan un uso incorrecto de la IA

Bruselas acaba de presentar el primer reglamento para controlar el uso de esta tecnología. El documento, que aún deben aprobar algunos gobiernos de la UE, prohíbe los sistemas de puntuación sociales o la vigilancia biométrica masiva.

Las autoridades comunitarias quieren evitar que tanto las instituciones públicas como el sector privado haga un uso de la Inteligencia Artificial sin reglas claras, como ya sucede en China. La IA es una de las tecnologías más revolucionarias, pero también una de las que genera más temores, debido también a la desconfianza que genera.

¿Qué restricciones incluye en el primer reglamento de la UE para vigilar el uso de la IA?

El reglamento propone prohibir el uso de sistemas de Inteligencia Artificial que permitan la identificación biométrica en espacios públicos. La razón es que consideran que, en este caso, se trata de tecnología «de alto riesgo» que viola los valores y los derechos fundamentales de la UE. Aún así, establece algunas excepciones y permitirá su uso cuando pueda ayudar a localizar a un menor desaparecido, o evitar un inminente ataque terrorista.

Por otro lado, las autoridades europeas también quieren restringir el empleo de IA para los sistemas de puntuación sociales. Algunos gobiernos como el chino los utilizan para controlar a sus ciudadanos a través de la actividad que tengan en sus redes sociales. En este sentido, también prohíbe los sistemas que utilizan «técnicas subliminales» para distorsionar el comportamiento de un usuario de manera que pueda ocasionarle un daño físico o psicológico. Un ejemplo, los juguetes que utilizan asistentes de voz.

Thierry Breton, comisario de Mercado Interior  ha asegurado «la Inteligencia Artificial ofrece un inmenso potencial en áreas como la sanidad, el transporte, la energía, el turismo o la ciberseguridad, pero también presenta una serie de riesgos.  Es necesario un reglamento que vigile el uso de esta tecnología y garantice el respeto por nuestros valores». El reglamento, que establece multas para las compañías que incumplan la norma de hasta el 6% de sus ingresos anuales o un máximo de 30 millones de euros, también propone imponer obligaciones de transparencia a determinados sistemas de inteligencia artificial como los chatbots. En este caso, la UE establece que  los usuarios deben ser avisados de que están interactuando con un robot conversacional.

La confianza, una necesidad, no un lujo

Los profesionales del sector coinciden en que la desconfianza y la falta de conocimiento son los principales retos a los que se enfrenta la IA. En este sentido, Margrethe Vestager ha destacado que «con este reglamento histórico para vigilar el uso de la IA, la UE encabeza el desarrollo de unas normas mundiales que permitirán mejorar la confianza en esta tecnología. Además, al establecer unos estándares del sector, podremos allanar el camino hacia una Inteligencia Artificial más ética».

TE PUEDE GUSTAR

EVENTOS

RECIBE NUESTRA NEWSLETTER

*Email:

*Nombre:

*Empresa:

Cargo:

Sector:
     

Please don't insert text in the box below!

ESCUCHA NUESTRO PODCAST

SÍGUENOS EN RRSS

MÁS COMENTADOS

Scroll al inicio