La Teoría de la Gran Empresa a través del Data Ethics

Ignacio Bocos García, director de Data & Models Bankia

24 junio, 2020
8 Compartido 1,592 Visualizaciones

Ignacio Bocos García, director de Data & Models Bankia.

Friedrich Nietzsche en sus Consideraciones Intempestivas enuncia, simplificando en una frase la Teoría del Gran Hombre de Thomas Carlyle, que “la meta de la humanidad reside en sus especímenes más altos”.

La trágica y horrible muerte de George Floyd, ciudadano de Estados Unidos, de raza negra, mientras era detenido a manos de la policía el pasado 28 de mayo de 2020, ha reabierto innumerables debates en la opinión pública mundial. Uno de ellos ha sido la presencia de sesgos discriminatorios sobre ciertos colectivos que podrían aparecer en una Inteligencia Artificial incorrectamente construida.

El objetivo principal del denominado Data Ethics es, precisamente, el uso responsable y sostenible del Data Science en todos sus ámbitos a través del consumo de información exacta además de fiable y la construcción de modelos robustos o insesgados.

Una de las tecnologías que sistemáticamente ha estado bajo un escrutinio ético elevado es la tecnología de reconocimiento facial en dos ejes de análisis: privacidad y discriminación.

Dejando a un lado la privacidad, ya que al ser un dato de carácter personal de tipo biométrico en España su uso está regulado por el Reglamento General de Protección de Datos y por la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales, la aparición de discriminación negativa en el uso de esta tecnología es una evidencia clara de la necesidad de tener presente los sesgos en la construcción de modelos.

En particular, diversos estudios realizados por organismos como MIT Media Lab o la American Civil Liberties Union (ACLU) han demostrado, tras analizar varias herramientas de mercado, la existencia de situaciones de discriminación de ciertos colectivos raciales o de género al usar la técnica de reconocimiento facial.

Recogiendo lo anterior, las grandes empresas tecnológicas están empezando a reaccionar como resultado de la reflexión latente en sus estrategias de Data Ethics que ha sido impulsada por el movimiento #BlackLivesMatter.

El propio Arvind Krishna, CEO de IBM, remitió el 8 de junio de 2020 una carta al Congreso de Estados Unidos solicitando trabajar conjuntamente sobre tres puntos: la reforma de la policía, el uso responsable de la tecnología y la mejora de oportunidades en educación para colectivos desfavorecidos.

Independientemente de la implantación y peso de esta tecnología en las líneas de negocio de IBM, esta decisión es valiente y acertada ya que promueve un gobierno analítico responsable.

Este movimiento ha sido secundado por parte de Amazon que, en un comunicado en su blog el pasado 10 de junio, publicó una moratoria de un año en el uso policial de su herramienta Amazon Rekognition hasta que el Congreso de los Estados Unidos avance en la regulación ética de esta tecnología. En el mismo comunicado, Amazon explicita que seguirá permitiendo el uso de esta herramienta a organizaciones que la utilizan para combatir el tráfico de personas o la reunificación de familias.

He aquí la gran cuestión a abordar: la tecnología de reconocimiento facial no es perversa en sí misma sino que, como toda tecnología, es preciso usarla de manera ética, responsable y adecuada, debiendo ser regida en una gran empresa mediante una estrategia de Data Ethics corporativa con implantación real.

Esta estrategia debe velar por el desarrollo de una cultura empresarial del talento interno y de los procesos de gestión del dato o de modelización que tengan presentes la necesidad de obtener resultados responsables y sostenibles, tanto para los sus clientes como para la sociedad en su conjunto.

Según la segunda edición, de reciente publicación, del “Estudio 360º de la gestión y explotación del dato” desarrollado por iKN Spain, si bien el 34% de las organizaciones lo tiene como una de sus prioridades, sólo el 1% de las organizaciones encuestadas tienen iniciativas de “Inteligencia Artificial confiable y ética” implantadas completamente en la organización, no habiendo iniciado trabajos en esta línea el 59% de las mismas.

Sólo invirtiendo las cifras anteriores podremos confiar en que el Data Science desarrollado por las distintas organizaciones es responsable y, en cierto modo, configura una Teoría de la Gran Empresa como evolución natural de la Teoría del Gran Hombre de Carlyle que siga impulsando de manera sostenible el desarrollo de la sociedad.

Te podría interesar

Information Builders incorpora a Frank J. Vella como director de operaciones
BD Network
544 visualizaciones
BD Network
544 visualizaciones

Information Builders incorpora a Frank J. Vella como director de operaciones

José Luis Arcángel - 9 febrero, 2018

Avalado por una sólida trayectoria profesional en el sector financiero y grandes capacidades para impulsar el crecimiento global empresarial, Vella se une a la compañía líder en…

#StopCorona: la plataforma de startups y empresas para ayudar a luchar contra el COVID-19
Actualidad
352 visualizaciones
Actualidad
352 visualizaciones

#StopCorona: la plataforma de startups y empresas para ayudar a luchar contra el COVID-19

Georgina Ortíz - 30 marzo, 2020

El objetivo de esta plataforma es ser el altavoz de todas las iniciativas que puedan aportar sus conocimientos de entornos tecnologicos para la batalla sanitaria contra el…

Predicciones 2019: La economía de datos y el panorama del futuro
Sin categoría
31 compartido2,176 visualizaciones
Sin categoría
31 compartido2,176 visualizaciones

Predicciones 2019: La economía de datos y el panorama del futuro

Vicente Ramírez - 18 diciembre, 2018

Por Michele Guglielmo, Regional Sales de Cloudera, la plataforma de machine learning y análisis de datos optimizada para la nube. 2018 fue un año fundamentalmente de cambios,…

Dejar comentario

Su email no será publicado

Este sitio usa Akismet para reducir el spam. Aprende cómo se procesan los datos de tus comentarios.