IBM ha dado paso hacia la apertura de la “caja negra” de la Inteligencia Artificial

2 noviembre, 2018
19 Compartido 1,106 Visualizaciones

IBM desarrolla en la nube nuevos controles para reducir e identificar sesgos. Estos desarrollos dan respuesta a la preocupación de las empresas por una mayor transparencia en la toma de decisiones de la Inteligencia Artificial.

BM presentó recientemente nuevas tecnologías que proporcionan a las empresas una mayor transparencia respecto a la aplicación de la Inteligencia Artificial (IA), lo que les va a permitir sacar el máximo provecho de todo su potencial. Y es que, IBM ha dado a conocer un nuevo servicio de software que detecta automáticamente los sesgos y proporciona la explicación sobre las decisiones que toma la IA. Este servicio está disponible en IBM Cloud para ayudar a las empresas a administrar sistemas de IA de una amplia variedad de sectores. La organización de servicios de IBM, IBM Services, también estará a disposición de las empresas para obtener este nuevo servicio.

Además, IBM Research pondrá a disposición de la comunidad open source un kit de herramientas de reducción y detección de sesgos en la IA para fomentar la colaboración global sobre cómo tratar el sesgo en la Inteligencia Artificial.

“IBM ha liderado la industria y ha impulsado establecimiento de valores como la confianza y la transparencia en el desarrollo de nuevas tecnologías de IA”, ha afirmado Beth Smith, directora general de Watson AI  de IBM. “Es hora de llevar estos valores a la práctica. Estamos facilitando a las empresas que utilizan la IA una mayor transparencia y control para afrontar el riesgo potencial de una toma de decisiones errónea”.

Estos desarrollos dan respuesta a las conclusiones de una reciente encuesta del Institute for Business Value de IBM, que muestra que mientras el 82% de las empresas se plantea utilizar la IA, al 60% le preocupa cuestiones de responsabilidad y el 63% carece de las capacidades y el talento interno para gestionar esta tecnología con confianza.

Visibilidad en las decisiones de la IA

Los nuevos desarrollos de IBM disponibles en IBM Cloud funcionan con modelos construidos a partir de una amplia variedad de frameworks de machine learning y entornos personalizados de IA como Watson, Tensorflow, SparkML, AWS SageMaker y AzureML. Esto significa que las organizaciones pueden aprovechar estos nuevos controles para la mayoría de los frameworks de IA más utilizados por las empresas.

El servicio de software también se puede programar para monitorizar los factores específicos de decisión que se tengan en consideración para cualquier flujo de trabajo empresarial, lo que permite personalizarlo para el uso específico de cada organización. El servicio de software, totalmente automatizado, describe la toma de decisiones y detecta sesgos en los modelos de IA en tiempo de ejecución –a medida que se toman las decisiones-. Es decir, captura resultados potencialmente injustos a medida que se producen (Ver demo aquí). También recomienda, de manera automática, datos para añadirlos al modelo y ayudar a reducir cualquier sesgo que haya detectado.

Las explicaciones que proporciona son de fácil comprensión y muestran qué factores hicieron inclinar la decisión hacia un lado o hacia otro, la confianza en la recomendación y los factores detrás de esa confianza. Además, los registros de la precisión, rendimiento y equidad del modelo pueden rastrearse y monitorizarse fácilmente para cumplir con la normativa, como es el caso del GDPR, o prestar un mejor servicio al cliente.

Todas estas capacidades son accesibles a las empresas a través de cuadros de mando visuales. Esto proporciona a los usuarios una capacidad incomparable para comprender, explicar y gestionar las decisiones tomadas a partir de la IA y reducir la dependencia de contar con conocimientos específicos sobre IA.

IBM también proporciona nuevos servicios de consultoría para ayudar a las empresas a diseñar procesos empresariales e interfaces hombre-IA para minimizar aún más el impacto del sesgo en la toma de decisiones.

Empoderando a la comunidad open source para construir una IA más justa

Asimismo, IBM pone a disposición de la comunidad open source un kit de herramientas de equidad de IA. El kit de herramientas AI Fairness 360 es una biblioteca de algoritmos, códigos y tutoriales innovadores que proporcionarán a los académicos, investigadores y científicos de datos herramientas y conocimientos para integrar mecanismos de detección de sesgos durante la construcción y aplicación de modelos de machine learning. Mientras que otros recursos de open source se centran únicamente en detectar los sesgos en los datos que se utilizan en el entrenamiento del sistema, el kit de herramientas IBM AI Fairness 360, creado por IBM Research, ayudará a identificar y reducir el sesgo en los modelos de IA. Esto invita a la comunidad global de open source a trabajar conjuntamente para abordar los sesgos en IA.

Un estudio revela las prioridades y los obstáculos para implementar la IA

Según el estudio AI 2018 Report de IBM recién publicado por el IBM Institute for Business Value,y que cuenta con una muestra de unos 5.000 ejecutivos C-Suite, actualmente se está produciendo un cambio significativo en cómo los líderes empresariales contemplan el potencial de la IA para impulsar el valor empresarial y el aumento de los ingresos.

Te podría interesar

¿Se han convertido los chatbots en un “must” en la estrategia de atención al cliente?
Actualidad
7 compartido1,227 visualizaciones
Actualidad
7 compartido1,227 visualizaciones

¿Se han convertido los chatbots en un “must” en la estrategia de atención al cliente?

Vicente Ramírez - 16 mayo, 2018

Detectar correo no deseado en Gmail de Google, sugerencias de compra en Amazon,  recomendaciones de serie en Netflix o coches con capacidades productivas... La Ai está aquí.…

Francia y Alemania, aliados para crear un ”Airbus de Inteligencia Artificial”
Inteligencia Artificial
7 compartido1,292 visualizaciones
Inteligencia Artificial
7 compartido1,292 visualizaciones

Francia y Alemania, aliados para crear un ”Airbus de Inteligencia Artificial”

Mónica Gallego - 13 julio, 2018

Los organismos de investigación de Francia y Alemania se alían para crear un Airbus de IA que pueda competir con otras grandes empresas para que desarrolle soluciones concretas…

El mainframe seguirá teniendo un papel fundamental en las empresas durante el próximo año
BD Network
18 compartido1,948 visualizaciones
BD Network
18 compartido1,948 visualizaciones

El mainframe seguirá teniendo un papel fundamental en las empresas durante el próximo año

Mónica Gallego - 24 diciembre, 2018

IDC estima que las empresas españolas invertirán en TI 47.500 millones de euros durante el próximo año, un 1,7% más que en 2018. ¿Cuáles serán las tecnologías y…

Dejar comentario

Su email no será publicado