Una nueva encuesta muestra la creciente preocupación de los líderes tecnológicos por el sesgo de la IA, la ética de la IA, ya que los eventos negativos afectan a los ingresos, las pérdidas de clientes y más.

Los líderes tecnológicos de las organizaciones han aumentado su preocupación por el sesgo de la IA en los últimos dos años, según una nueva encuesta de la empresa de análisis DataRobot. No se trata solo de los daños a la reputación de la marca. De los que han experimentado impactos negativos del sesgo de la IA, el mayor porcentaje, el 62%, perdió ingresos como consecuencia. Otro 61% perdió clientes.

No es de extrañar que los líderes tecnológicos estén cada vez más preocupados. Un 54% de los líderes tecnológicos encuestados dijeron que están muy o extremadamente preocupados por el sesgo de la IA, en comparación con el 42% que expresó este nivel de preocupación en 2019. La encuesta en línea de 2021 de 350 CIOs con sede en Estados Unidos y Reino Unido y otros líderes de TI se llevó a cabo en junio de 2021. En junio de 2019 se realizó una encuesta online similar.

Los resultados indican que más organizaciones están examinando más de cerca sus algoritmos, los conjuntos de datos que se utilizan para entrenarlos y la explicabilidad de los resultados de la IA: ¿cómo llegó el algoritmo a esa conclusión?

De hecho, en septiembre de 2021, Gartner identificó la IA responsable -que incluye la transparencia, la imparcialidad y la auditabilidad de las tecnologías de IA- como una de las cuatro tendencias que impulsan la innovación en IA a corto plazo. El analista de Forrester Research, Brandon Purcell, dijo a InformationWeek que el mercado de soluciones de IA responsable se duplicaría en 2022, dando a las organizaciones más ayuda con la tecnología para ayudarles a garantizar que su IA cumple con los requisitos éticos, es explicable, justa y cumple con la privacidad.

«Se ha convertido en una prioridad en cualquier industria de gran prestigio«, afirma Purcell. También hay un gran número de empresas que trabajan en soluciones, desde los gigantes tecnológicos hasta las nuevas empresas.

Lo que más preocupa a los CIO

En lo que respecta al sesgo de la IA, ¿qué es lo que más preocupa a los CIO y a otros responsables de TI? La principal preocupación es la pérdida de confianza de los clientes, con un 56%, seguida de la pérdida de reputación de la marca o la reacción de los medios sociales, con un 50%. El aumento del escrutinio normativo es el siguiente, con un 43%, seguido de la pérdida de confianza de los empleados, con un 42%, el desajuste con la ética personal, con un 37%, las demandas judiciales, con un 25%, y la erosión del valor para los accionistas, con un 22%.

Estas preocupaciones no se limitan a unas nebulosas consecuencias futuras del sesgo de la IA. Las organizaciones también citaron las consecuencias reales que se derivan del sesgo de la IA. Un 36% dijo que su organización había sufrido un impacto negativo debido a un incidente de sesgo de IA en uno o varios de sus algoritmos. De ellos:

El 62% informó de la pérdida de ingresos;
El 61% perdió clientes;
El 43% perdió empleados;
El 35% incurrió en gastos legales debido a demandas o acciones legales, y;
el 6% experimentó daños en la reputación de la marca o una reacción mediática.
Las ramificaciones se deben en parte a la discriminación causada por la IA sesgada. Los encuestados afirmaron que los algoritmos de su organización han contribuido inadvertidamente a la discriminación por motivos de género (32%), edad (32%), raza (29%), orientación sexual (19%) y religión (19%).