IBM da un gran paso hacia la apertura de la “caja negra” de la Inteligencia Artificial

26 septiembre, 2018
418 Visualizaciones

IBM desarrolla en la nube nuevos controles para reducir e identificar sesgos. Estos desarrollos dan respuesta a la preocupación de las empresas por una mayor transparencia en la toma de decisiones de la Inteligencia Artificial.

BM ha presentado hoy nuevas tecnologías que proporcionan a las empresas una mayor transparencia respecto a la aplicación de la Inteligencia Artificial (IA), lo que les va a permitir sacar el máximo provecho de todo su potencial. IBM ha dado a conocer un nuevo servicio de software que detecta automáticamente los sesgos y proporciona la explicación sobre las decisiones que toma la IA. Este servicio está disponible en IBM Cloud para ayudar a las empresas a administrar sistemas de IA de una amplia variedad de sectores. La organización de servicios de IBM, IBM Services, también estará a disposición de las empresas para obtener este nuevo servicio.

Además, IBM Research pondrá a disposición de la comunidad open source un kit de herramientas de reducción y detección de sesgos en la IA para fomentar la colaboración global sobre cómo tratar el sesgo en la Inteligencia Artificial.

«IBM ha liderado la industria y ha impulsado establecimiento de valores como la confianza y la transparencia en el desarrollo de nuevas tecnologías de IA”, ha afirmado Beth Smith, directora general de Watson AI  de IBM. «Es hora de llevar estos valores a la práctica. Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea«.

Estos desarrollos dan respuesta a las conclusiones de una reciente encuesta del Institute for Business Value de IBM, que muestra que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa cuestiones de responsabilidad y el 63% carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

Visibilidad en las decisiones de la IA

Los nuevos desarrollos de IBM disponibles en IBM Cloud funcionan con modelos construidos a partir de una amplia variedad de frameworks de machine learning y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de IA más utilizados por las empresas.

El servicio de software también se puede programar para monitorizar los factores específicos de decisión que se tengan en consideración para cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de cada organización. El servicio de software, totalmente automatizado, describe la toma de decisiones y detecta sesgos en los modelos de IA en tiempo de ejecución –a medida que se toman las decisiones-. Es decir, captura resultados potencialmente injustos a medida que se producen (Ver demo aquí). También recomienda, de manera automática, datos para añadirlos al modelo y ayudar a reducir cualquier sesgo que haya detectado.

Las explicaciones que proporciona son de fácil comprensión y muestran qué factores hicieron inclinar la decisión hacia un lado o hacia otro, la confianza en la recomendación y los factores detrás de esa confianza. Además, los registros de la precisión, rendimiento y equidad del modelo pueden rastrearse y monitorizarse fácilmente para cumplir con la normativa, como es el caso del GDPR, o prestar un mejor servicio al cliente.

Todas estas capacidades son accesibles a las empresas a través de cuadros de mando visuales. Esto proporciona a los usuarios una capacidad incomparable para comprender, explicar y gestionar las decisiones tomadas a partir de la IA y reducir la dependencia de contar con conocimientos específicos sobre IA.

IBM también proporciona nuevos servicios de consultoría para ayudar a las empresas a diseñar procesos empresariales e interfaces hombre-IA para minimizar aún más el impacto del sesgo en la toma de decisiones.

Empoderando a la comunidad open source para construir una IA más justa

Asimismo, IBM pone a disposición de la comunidad open source un kit de herramientas de equidad de IA. El kit de herramientas AI Fairness 360 es una biblioteca de algoritmos, códigos y tutoriales innovadores que proporcionarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar mecanismos de detección de sesgos durante la construcción y aplicación de modelos de machine learning. Mientras que otros recursos de open source se centran únicamente en detectar los sesgos en los datos que se utilizan en el entrenamiento del sistema, el kit de herramientas IBM AI Fairness 360, creado por IBM Research, ayudará a identificar y reducir el sesgo en los modelos de IA. Esto invita a la comunidad global de open source a trabajar conjuntamente para abordar los sesgos en IA.

Te podría interesar

¿Cómo cambiará el retail dentro de 10 años gracias a la Inteligencia Artificial?
Inteligencia Artificial
19 compartido2,214 visualizaciones
Inteligencia Artificial
19 compartido2,214 visualizaciones

¿Cómo cambiará el retail dentro de 10 años gracias a la Inteligencia Artificial?

Mónica Gallego - 4 marzo, 2019

La transformación digital que está abordando las empresas cambia el retail en su cadena de valor y en su estructura organizativa. Ante este contexto, ayer se presentó “IA,…

Nextail, empresa española de inteligencia artificial para gestión de stock, cierra una ronda de $10MM
BD Network
8 compartido1,277 visualizaciones
BD Network
8 compartido1,277 visualizaciones

Nextail, empresa española de inteligencia artificial para gestión de stock, cierra una ronda de $10MM

Mónica Gallego - 28 junio, 2018

Fundada por Joaquín Villalba y Carlos Miragall en 2014, Nextail ha creado una plataforma en la nube que optimiza la toma de decisiones y la gestión del inventario Nextail,…

Realidad y perspectivas de la Inteligencia Artificial en España 2018
Actualidad
14 compartido1,810 visualizaciones
Actualidad
14 compartido1,810 visualizaciones

Realidad y perspectivas de la Inteligencia Artificial en España 2018

Vicente Ramírez - 6 abril, 2018

El informe "Realidad y perspectivas de la IA en España, 2018" elaborado por PwC en colaboración con Microsoft, tiene como objetivo ofrecer una perspectiva realista del nivel…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.