Una multinacional alemana de tecnología establece un código ético de IA

21 febrero, 2020
8 Compartido 1,281 Visualizaciones

La creación de este código ético tiene como objetivo guiar a los trabajadores en el tipo de tecnología que deben desarrollar y buscar que las personas confíen en sus productos al saber que «lineas» éticas no van a cruzar.

Bosch ha querido establecer una «linea roja» ética para el uso de la inteligencia artificial (AI). Para ello, la compañía ha presentado una serie de directrices para el uso de la AI en sus productos inteligentes. El código ético de Bosch gira entorno a: los humanos deben de ser el árbitro último sobre cualquier decisión basada en inteligencia artificial.

La inteligencia artificial debe servir a las personas. Nuestro código de ética de IA brinda a nuestros empleados una guía clara para el desarrollo de productos inteligentes«, dijo Volkmar Denner, CEO de Bosch, en la inauguración del Bosch ConnectedWorld (BCW), en la conferencia anual de la compañía sobre IoT en Berlín. «Nuestro objetivo es que las personas confíen en nuestros productos basados en inteligencia artificial«.

Los planes de futuro de la compañía colocan a la IA en un puesto con  una importancia vital. Para 2025, el objetivo es que cada producto Bosch contenga inteligencia artificial o haya sido desarrollado o fabricado con su ayuda. La compañía quiere que sus productos basados en IA sean seguros, robustos y explicables. «Si la AI es una caja negra, entonces la gente no confiará en ella. En un mundo conectado, la confianza será esencial”, dijo Michael Bolle, CDO y CTO de Bosch. La empresa aspira a producir productos basados en inteligencia artificial que sean confiables. El código de ética se basa en el espíritu de Bosch «Innovación para tu vida», que combina la búsqueda de innovación con el sentido de responsabilidad social. En los próximos dos años, Bosch planea formar a 20.000 empleados en el uso de la inteligencia artificial. El código de ética AI de Bosch, que rige el uso responsable de esta tecnología, será parte de este programa de capacitación.

De un vistazo: las pautas del código ético de inteligencia artificial de Bosch

  • Todos los productos IA de Bosch deben reflejar nuestro espíritu «Innovación para tu vida», que combina una búsqueda de innovación con un sentido de responsabilidad social.
  • Las decisiones de IA que afectan a las personas no deben tomarse sin un árbitro humano. La IA debe de ser una herramienta para las personas.
  • Queremos desarrollar productos IA seguros, robustos y explicables.
  • La confianza es uno de los valores fundamentales de nuestra empresa. Queremos desarrollar productos IA en los que confiar.
  • Al desarrollar productos de inteligencia artificial, observamos los requisitos legales y nos orientamos a los principios éticos.

Las personas deben mantener el control

El código de ética de Bosch para la IA estipula que la inteligencia artificial no debe tomar decisiones sobre los humanos sin que este proceso haya sido supervisado por personas. Además, esta tecnología debería servir a las personas como herramienta.

Se describen tres enfoques posibles y todos tienen en común lo siguiente: en los productos basados ​​en IA desarrollados por Bosch, los humanos deben de mantener el control sobre cualquier decisión que tome la tecnología. En el primer enfoque (‘human-in-command’), la inteligencia artificial es únicamente una ayuda, por ejemplo, en aplicaciones de ayuda a la toma de decisiones, donde la IA puede ayudar a las personas a clasificar objetos u organismos. En el segundo enfoque (‘human-in-the-loop’), un sistema inteligente toma de forma autónoma decisiones que los humanos pueden, sin embargo, anular en cualquier momento. Un ejemplo sería la conducción parcialmente automatizada, donde el conductor humano puede intervenir directamente en las decisiones de un sistema de asistencia al aparcamiento. El tercer enfoque (‘human-on-the-loop’) le concierne a la tecnología inteligente, como los sistemas de frenada de emergencia. Aquí, los ingenieros definen ciertos parámetros durante el proceso de desarrollo. No hay margen para la intervención humana en el proceso de toma de decisiones en sí. Los parámetros proporcionan la base sobre la cual la IA decide si activar el sistema o no. Los ingenieros prueban retrospectivamente si el sistema se ha mantenido dentro de los parámetros definidos. Si es necesario, estos parámetros se pueden ajustar.

Construyendo confianza juntos

Bosch también espera que su código de ética de AI contribuya al debate público sobre la inteligencia artificial. «Dado que la AI cambiará todos los aspectos de nuestras vidas”, dijo Denner. “Por eso, este debate es vital«. Se necesitará algo más que solo conocimientos técnicos para establecer la confianza en los sistemas inteligentes: también es necesario un diálogo estrecho entre los responsables políticos, la comunidad científica y la sociedad en general. Por eso, Bosch se ha adherido al High-Level Expert Group on Artificial Intelligence (Grupo de Expertos de Alto Nivel en Inteligencia Artificial), un organismo designado por la Comisión Europea para examinar temas como la dimensión ética de la IA. En una red mundial que actualmente comprende siete localizaciones, y en colaboración con la Universidad de Amsterdam y la Universidad Carnegie Mellon (Pittsburgh, EEUU), la compañía está trabajando en desarrollar aplicaciones de inteligencia artificial que sean más seguras y confiables. Del mismo modo, como miembro fundador de la alianza de investigación Cyber ​​Valley en Baden-Württemberg, Bosch está invirtiendo 100 millones de euros en la construcción de un campus IA, donde 700 de sus propios expertos trabajarán, codo con codo, con investigadores externos y empleados de start-ups. Por último, pero no menos importante, el Digital Trust Forum, un comité creado por Bosch, tiene como objetivo fomentar un estrecho diálogo entre expertos de las principales asociaciones y organizaciones internacionales. Sus once miembros se reunirán en el Bosch ConnectedWorld 2020. «Nuestro objetivo común es hacer que el IoT sea seguro y confiable«, dijo Bolle.

La inteligencia artificial ofrece un gran potencial

La inteligencia artificial es un motor mundial de progreso y crecimiento. La consultora PwC, por ejemplo, proyecta que, desde ahora hasta 2030, la IA aumentará el PIB de China en un 26 por ciento, en un 14 por ciento el de América del Norte y en alrededor de un 10 por ciento el europeo. Esta tecnología puede ayudar a superar desafíos como los de la acción climática y a optimizar los resultados en numerosas áreas como el transporte, la medicina y la agricultura. Al analizar grandes volúmenes de datos, los algoritmos pueden tomar decisiones de forma razonable. Mucho antes de la introducción de normas vinculantes en la UE, Bosch ha tomado la decisión de participar activamente en las cuestiones éticas que plantea el uso de esta tecnología. El fundamento moral de este proceso lo proporcionan los valores consagrados en la Declaración Universal de Derechos Humanos.

Te podría interesar

Telekom amplía su oferta de redes de área extendida para datos con VMware
Actualidad
16 compartido2,144 visualizaciones
Actualidad
16 compartido2,144 visualizaciones

Telekom amplía su oferta de redes de área extendida para datos con VMware

Redacción BDM - 17 septiembre, 2019

Las aplicaciones en la nube necesitan un nuevo enfoque que impulse dinámicamente la necesidad de datos. T-Systems amplía su oferta de redes corporativas internacionales a través de…

Data Center tendrá dos nuevos colaboradores para instalar fibra óptica
Actualidad
6 compartido1,041 visualizaciones
Actualidad
6 compartido1,041 visualizaciones

Data Center tendrá dos nuevos colaboradores para instalar fibra óptica

Georgina Ortíz - 7 noviembre, 2019

Ambas compañías han destacado la labor de Silicon Alley Madrid al promover alianzas de este tipo entre asociados. Corning y Jelp han firmado un acuerdo de colaboración…

PwC incorpora a Jaume Clotet para liderar el área digital en Barcelona
Actualidad
17 compartido1,383 visualizaciones
Actualidad
17 compartido1,383 visualizaciones

PwC incorpora a Jaume Clotet para liderar el área digital en Barcelona

José Luis Arcángel - 22 febrero, 2018

PwC ha incorporado a Jaume Clotet Sistach como socio responsable del área digital en su oficina de Barcelona, desde donde prestará asesoramiento en Transformación Digital a clientes…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.