Friedrich Nietzsche en sus Consideraciones Intempestivas enuncia, simplificando en una frase la Teoría del Gran Hombre de Thomas Carlyle, que “la meta de la humanidad reside en sus especímenes más altos”.

La trágica y horrible muerte de George Floyd, ciudadano de Estados Unidos, de raza negra, mientras era detenido a manos de la policía el pasado 28 de mayo de 2020, ha reabierto innumerables debates en la opinión pública mundial. Uno de ellos ha sido la presencia de sesgos discriminatorios sobre ciertos colectivos que podrían aparecer en una Inteligencia Artificial incorrectamente construida.

El objetivo principal del denominado Data Ethics es, precisamente, el uso responsable y sostenible del Data Science en todos sus ámbitos a través del consumo de información exacta además de fiable y la construcción de modelos robustos o insesgados.

Una de las tecnologías que sistemáticamente ha estado bajo un escrutinio ético elevado es la tecnología de reconocimiento facial en dos ejes de análisis: privacidad y discriminación.

Dejando a un lado la privacidad, ya que al ser un dato de carácter personal de tipo biométrico en España su uso está regulado por el Reglamento General de Protección de Datos y por la Ley Orgánica de Protección de Datos y Garantía de los Derechos Digitales, la aparición de discriminación negativa en el uso de esta tecnología es una evidencia clara de la necesidad de tener presente los sesgos en la construcción de modelos.

En particular, diversos estudios realizados por organismos como MIT Media Lab o la American Civil Liberties Union (ACLU) han demostrado, tras analizar varias herramientas de mercado, la existencia de situaciones de discriminación de ciertos colectivos raciales o de género al usar la técnica de reconocimiento facial.

Recogiendo lo anterior, las grandes empresas tecnológicas están empezando a reaccionar como resultado de la reflexión latente en sus estrategias de Data Ethics que ha sido impulsada por el movimiento #BlackLivesMatter.

El propio Arvind Krishna, CEO de IBM, remitió el 8 de junio de 2020 una carta al Congreso de Estados Unidos solicitando trabajar conjuntamente sobre tres puntos: la reforma de la policía, el uso responsable de la tecnología y la mejora de oportunidades en educación para colectivos desfavorecidos.

Independientemente de la implantación y peso de esta tecnología en las líneas de negocio de IBM, esta decisión es valiente y acertada ya que promueve un gobierno analítico responsable.

Este movimiento ha sido secundado por parte de Amazon que, en un comunicado en su blog el pasado 10 de junio, publicó una moratoria de un año en el uso policial de su herramienta Amazon Rekognition hasta que el Congreso de los Estados Unidos avance en la regulación ética de esta tecnología. En el mismo comunicado, Amazon explicita que seguirá permitiendo el uso de esta herramienta a organizaciones que la utilizan para combatir el tráfico de personas o la reunificación de familias.

He aquí la gran cuestión a abordar: la tecnología de reconocimiento facial no es perversa en sí misma sino que, como toda tecnología, es preciso usarla de manera ética, responsable y adecuada, debiendo ser regida en una gran empresa mediante una estrategia de Data Ethics corporativa con implantación real.

Esta estrategia debe velar por el desarrollo de una cultura empresarial del talento interno y de los procesos de gestión del dato o de modelización que tengan presentes la necesidad de obtener resultados responsables y sostenibles, tanto para los sus clientes como para la sociedad en su conjunto.

Según la segunda edición, de reciente publicación, del “Estudio 360º de la gestión y explotación del dato” desarrollado por iKN Spain, si bien el 34% de las organizaciones lo tiene como una de sus prioridades, sólo el 1% de las organizaciones encuestadas tienen iniciativas de “Inteligencia Artificial confiable y ética” implantadas completamente en la organización, no habiendo iniciado trabajos en esta línea el 59% de las mismas.

Sólo invirtiendo las cifras anteriores podremos confiar en que el Data Science desarrollado por las distintas organizaciones es responsable y, en cierto modo, configura una Teoría de la Gran Empresa como evolución natural de la Teoría del Gran Hombre de Carlyle que siga impulsando de manera sostenible el desarrollo de la sociedad.