¿Qué riesgos entraña la inteligencia artificial para las empresas?

10 octubre, 2019
11 Compartido 1,537 Visualizaciones

Los estudios sobre la IA demuestran que para el 2030 podría generar un valor de 13 miles de millones de dólares anuales en la economía mundial. Actualmente, el 80% de los ejecutivos de las compañías que han implementado recientemente procesos de IA ya perciben valor en su uso.

Sin embargo, en paralelo a este crecimiento, surgen una serie de riesgos asociados que, a simple vista, pueden parecer irrelevantes pero que pueden acabar incidiendo en el buen funcionamiento de las empresas. Por eso, la firma líder en consultoría de gestión a nivel mundial, McKinsey & Company, ha realizado el informe “Afrontando los riesgos de la inteligencia artificial” en el que se exponen los pasos a seguir para minimizar los riesgos asociados al uso de la Inteligencia Artificial (IA).

  • Problemas en el uso de datos: el uso adecuado de los datos se ha hecho cada vez más difícil ya que ha incrementado exponencialmente la cantidad de datos no estructurados obtenidos a partir de fuentes como webs, redes sociales, dispositivos móviles e Internet de las cosas (IoT). Como resultado, es fácil caer en el uso involuntario o en la revelación de información confidencial oculta entre datos anónimos.
  • Problemas tecnológicos: diversos problemas en los procesos operativos pueden afectar negativamente al rendimiento de los sistemas de IA generando riesgos.
  • Problemas de seguridad: un problema emergente es la utilización de datos aparentemente inofensivos -financieros, de marketing o de salud- que las empresas recopilan por parte de estafadores para crear identidades falsas.
  • Errores en el establecimiento de modelos: con unas muestras mal establecidas se pueden generar resultados sesgados que representen erróneamente a las poblaciones analizadas.
  • Problemas de interacción: la interacción entre personas y máquinas es otro punto de riesgo clave. Entre los más visibles, se encuentran los desafíos en los sistemas automatizados de transporte, producción e infraestructura, en los que pueden darse accidentes debido a errores humanos, -involuntarios en la mayoría de los casos-.

Además de proporcionar una idea de los desafíos futuros, los ejemplos y las categorizaciones anteriores son útiles para identificar y priorizar riesgos y sus principales causas. Comprendiendo dónde están los riesgos no identificados, hay más posibilidades de minimizar sus efectos. Pero ¿cómo se gestionan esos riesgos? Bajo el ejemplo de dos bancos líderes a nivel mundial, se detallan a continuación tres principios básicos para catalogarlos y eliminarlos:

  1. Identificar los riesgos más críticos

Uno de los riesgos identificados más inesperados ha sido la recomendación pobre o sesgada de productos a los consumidores finales, hechos que pueden resultar en la disminución de ventas, pérdida de confianza e incluso perjuicios a la reputación, con las consiguientes multas. Para evitarlo, es esencial lograr que los líderes de las principales prácticas de la compañía -negocio, IT, seguridad y gestión de riesgos- identifiquen de forma conjunta riesgos actuales y posibles situaciones problemáticas ligadas al uso de la IA.

  1. Instaurar controles generales estrictos

Es crucial la aplicación de controles en toda la compañía para guiar el desarrollo y uso de los sistemas de IA, asegurar una supervisión adecuada y poner en práctica procedimientos y planes de contingencia sólidos. Sin esfuerzos colectivos, aumentan las probabilidades de que los factores de riesgo se amplifiquen. Todos los empleados deben recibir comunicaciones completas sobre dónde se está utilizando la IA y qué pasos está tomando la compañía para garantizar decisiones justas y para proteger los datos de los clientes.

  1. Reforzar controles específicos dependiendo de la naturaleza del riesgo

Por importantes que sean los controles la empresa, rara vez son suficientes para contrarrestar el conjunto de riesgos posibles. A menudo es necesario más rigor, y los controles requeridos dependerán de factores tales como la complejidad de los algoritmos, la naturaleza de la interacción persona-máquina (o máquina-máquina) y hasta qué punto la IA está incorporada a los procesos de negocio. También son necesarios controles específicos de datos y análisis (incluidos los requisitos de transparencia) así como la monitorización y el análisis de rendimiento para detectar posibles sesgos.

Te podría interesar

»Ayudamos, a través de los datos, a mejorar la forma de conducir de los conductores»
Entrevistas
22 compartido2,721 visualizaciones
Entrevistas
22 compartido2,721 visualizaciones

»Ayudamos, a través de los datos, a mejorar la forma de conducir de los conductores»

Mónica Gallego - 28 septiembre, 2018

Geotab es la empresa de gestión de flotas con más de  1.200.000 vehículos conectados que proveen datos útiles para las empresas que tienen flotas. Está en todos los continentes y aseguran…

El 52% de los consumidores usa tecnología de IoT y un 64% declara fallos continuos
Actualidad
23 compartido1,671 visualizaciones
Actualidad
23 compartido1,671 visualizaciones

El 52% de los consumidores usa tecnología de IoT y un 64% declara fallos continuos

José Luis Arcángel - 7 septiembre, 2018

El 84% de los usuarios declaran que no usarían automóviles sin conductor debido al temor de fallos del software. Más de la mitad de los consumidores de…

Aceleradores de innovación: clave en el proceso de digitalización en las PYMES
Cases Studies
19 compartido4,229 visualizaciones
Cases Studies
19 compartido4,229 visualizaciones

Aceleradores de innovación: clave en el proceso de digitalización en las PYMES

Mónica Gallego - 18 junio, 2019

En 2024, se automatizarán el 50% de las tareas repetitivas y el 20% de los trabajadores especializados tendrán un asistente digital colaborativo. Los aceleradores de innovación de…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.