12 Shares 2211 Views 1 Comments

Comentarios al libro blanco sobre IA. Comisión Europea. Febrero 2020.

Rafael Fernández Campos, Chief Data Office de Bankia y Presidente Club Chief Data Officer Spain

28 febrero, 2020
12 Compartido 2,211 Visualizaciones 1

Rafael Fernández Campos, Chief Data Office de Bankia y Presidente Club Chief Data Officer Spain.

El pasado 19 de febrero de 2020, la Comisión Europea ha publicado su Libro Blanco sobre Inteligencia Artificial. Una aproximación Europea a la Excelencia y la Confianza.

Este documento persigue, desde un enfoque muy europeo, convertir a la Unión Europea en líder global de la data-economy y sus aplicaciones, en beneficio de ciudadanos, negocios y sociedad en general, sobre la base de dos pilares fundamentales:

  1. Promover la Inteligencia Artificial en Europa
  2. Prevenir los riesgos derivados de su uso

Frente a los principales competidores en esta carrera, Estados Unidos y China, la Unión Europea presenta dos fortalezas: la pujanza de su industria digital y las aplicaciones business-to-business, mientras que su principal debilidad estriba en las plataformas de datos.

Para lograr este objetivo, las acciones propuestas en este paper se agrupan entorno a dos bloques:

  1. Ecosistema de excelencia: acciones sobre la cadena de valor del dato, tanto desde una perspectiva pública como privada
  2. Ecosistema de confianza: enfoque humanista de la Inteligencia Artificial

1. Ecosistema de Excelencia

En esta parte se contemplan seis acciones relativas a los siguientes aspectos:

  1. Coordinación con los estados miembros, elaborando un plan coordinado cuya publicación final apunta a finales de 2020
  2. Foco en I+D, con la creación de Centros de Excelencia europeos centralizados
  3. Skills necesarios tanto para la digitalización de la sociedad como relativos a la formación de profesionales intracomunitarios y a la atracción de talento del exterior
  4. Foco en pymes, facilitando la digitalización de las pequeñas y medianas empresas a través de Hubs de Innovación Digital en cada país miembro
  5. Cooperación público-privada
  6. Adopción de la Inteligencia Artificial por parte del sector público, con atención especial al sector de la salud, de las administraciones rurales y las operadoras de servicios públicos

Adicionalmente, el documento analiza la problemática de la seguridad en el acceso a los datos e infraestructuras, así como las bases para la cooperación internacional, fundamentalmente en el ámbito de la OCDE.

2. Ecosistema de Confianza

En este ecosistema conviene recordar los siete requerimientos contemplados en las Ethics Guidelines for Trustworthy AI, publicadas por la Comisión Europea en Abril de 2019:

  1. Humanismo y supervisión
  2. Robustez técnica y seguridad
  3. Privacidad y gobernanza
  4. Transparencia
  5. Diversidad, no discriminación y equidad
  6. Bienestar social y medioambiental
  7. Responsabilidad

A continuación, sobre la base de los pilares descritos en dicha guía, el documento repasa la problemática fundamental asociada a la necesidad de una inteligencia artificial que aporte confianza a la sociedad, cubriendo dos tipos de riesgos:

  • Riesgos para los derechos fundamentales, principalmente sobre datos personales, privacidad y discriminación
  • Riesgos asociados a la seguridad de las personas y a la asunción de responsabilidades derivadas del uso de la IA

Para ello se contempla la necesidad de abordar cambios legislativos que conduzcan a la Unión hacia un nuevo marco regulatorio de la economía del dato, especialmente en lo que se denomina la Inteligencia Artificial de Alto Riesgo (HRAI, por su siglas en inglés), definida como aquellas aplicaciones en las que se conjugan dos criterios:

  • Riesgo en función de la naturaleza del ámbito. Aquí se incluyen sectores como la salud, energía, transporte, algunos servicios públicos… en una lista que ha de completarse en el Plan definitivo
  • Riesgo en función del uso final, lo que significa que no todos los usos que se hagan de la IA en los sectores considerados de alto riesgo, serían incluidos en la categoría HRAI. Pensemos por ejemplo en la gestión de las listas de espera de un hospital, como un uso de bajo riesgo en un sector de alto riesgo.

Una vez inventariados los usos de alto riesgo, la cuestión radica en imponer una serie de requerimientos asociados a los diferentes aspectos del proceso:

  1. Sets de datos de entrenamiento, donde las preocupaciones principales estriban en la seguridad, la privacidad y los sesgos discriminatorios
  2. Documentación y archivo de los procesos, en cuanto a criterios de selección de datos, algoritmos empleados, etc
  3. Información pública, tanto a autoridades como a todas las partes afectadas, especialmente los consumidores finales. Aquí se incluyen aspectos como la necesidad de preavisar cuando se esté interactuando con un sistema artificial
  4. Robustez y precisión, como forma de garantizar las políticas acordadas
  5. Necesidad de supervisión humana de los procesos
  6. Requerimientos específicos para el reconocimiento biométrico a distancia, debido a la especial preocupación social alrededor de este tema

Otros aspectos como la gobernanza de las políticas y acciones acordadas, la aplicabilidad a terceros extracomunitarios, el compliance y la posibilidad de adscripción voluntaria en el caso de usos de bajo riesgo, son también comentados brevemente en el documento.

En definitiva, la Comisión Europea, consciente del retraso de la Unión frente a Estados Unidos y China, está sentando las bases para la fundación de un modo europeo de entender la data-economy, basado en la aportación de valor a la sociedad sobre la base del respeto a los derechos humanos, en una suerte de humanismo tecnológico.

El Club de Chief Data Officers Spain&Latam, la asociación que agrupa a los responsables del dato de las principales compañías del país, persigue fomentar una gestión del dato generadora de valor para toda la sociedad, sobre la base de unos pilares éticos sólidos. Es por ello que apoyamos totalmente los principios sobre los que se basa la estrategia de la Comisión Europea y animamos a nuestros miembros y a sus compañías a apoyar la colaboración entre nosotros y las administraciones públicas, en aras de lograr los objetivos perseguidos.

Si la sociedad no nos percibe como útiles y éticos, seremos relegados y nuestra supervivencia estará en franca cuestión. Y ello solo se puede lograr desde la cooperación, tanto desde un punto de vista intersectorial como de colaboración público-privada.

Hemos empezado tarde, pero Europa alberga las bases necesarias de talento, tecnología y recursos para liderar este proceso de transformación, que será humanista, o no será.

Desde el Club Chief Data Officer Spain&Latam, como garantes y estrategas del dato en nuestras compañías, se nos plantean una serie de cuestiones muy relevantes:  

  1. De cara a posicionar a Europa como referente en la carrera por la Inteligencia Artificial… ¿qué fortalezas y debilidades tiene el continente frente a Estados Unidos y China?
  2. ¿en qué posición se encuentra España dentro de Europa para asumir un liderazgo en este asunto? 
  3. ¿Se debería abrir un debate en la agenda política española? ¿Por dónde empezamos?

Te podría interesar

Automatización en las personas: el futuro de los aeropuertos
Smart City
19 compartido5,529 visualizaciones
Smart City
19 compartido5,529 visualizaciones

Automatización en las personas: el futuro de los aeropuertos

Mónica Gallego - 31 julio, 2019

Nice, la multinacional italiana de referencia internacional en el sector de Home Automation, Home Security y Smart Home, añade otro prestigioso proyecto a su amplio porfolio de…

MAD Lions E.C. se convierte en el primer club de eSports que incorpora un Data Scientist
Actualidad
31 compartido1,969 visualizaciones
Actualidad
31 compartido1,969 visualizaciones

MAD Lions E.C. se convierte en el primer club de eSports que incorpora un Data Scientist

Vicente Ramírez - 16 abril, 2018

MAD Lions E.C. (club madrileño de eSport), da un paso más con la incorporación de David Heras Pino en el puesto de Data Scientist para el análisis…

Los úteros artificiales ayudarán a bebés prematuros
Actualidad
9 compartido1,234 visualizaciones
Actualidad
9 compartido1,234 visualizaciones

Los úteros artificiales ayudarán a bebés prematuros

Georgina Ortíz - 4 febrero, 2020

La medicina ha encontrado en la tecnología un gran aliado para salvar vidas. Ahora nos enteramos que los úteros artificiales han llegado, y ayudarán a que los…

Un comentario

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.