Sngular y Eticas han creado conjuntamente una metodología ágil para el desarrollo técnico ético de algoritmos basados en Inteligencia Artificial con impacto en las personas
La tecnológica Sngular y Eticas han alcanzado un acuerdo de colaboración para desarrollar soluciones de Inteligencia Artificial ética y responsable aplicada a ámbitos de alto riesgo e impacto, respondiendo así a las necesidades de la sociedad y el mercado.
Tal y como define la futura Ley de Inteligencia Artificial de la Unión Europea, sectores como la salud, el empleo, la educación, la seguridad, los servicios sociales o la justicia son especialmente sensibles en torno al uso responsable de la tecnología. En todos ellos el espacio para el error algorítmico es mínimo, lo que requiere de la creación de equipos altamente especializados y de la implementación de modelos de gobernanza y protección de datos para minimizar riesgos legales, reputacionales y éticos.
Fruto de esta colaboración, nace una metodología de trabajo conjunta y ágil en proyectos técnicos de terceros que persigue como objetivo el desarrollo, supervisión, evaluación y auditado de algoritmos de sistemas de datos en contextos de alto riesgo y cuyas decisiones tengan un impacto directo o indirecto en las personas.
Dos empresas pioneras en el desarrollo ético de algoritmos de IA
Estas dos compañías aúnan una dilatada experiencia en innovación técnica así como en privacidad y ética desde el diseño. Con este acuerdo, Sngular y Eticas articulan la primera propuesta global de desarrollo integrado de sistemas de IA éticos, responsables y legales desde su conceptualización.
Nerea Luis, Artificial Intelligence Lead de Sngular, comenta que «la metodología conjunta que proponemos facilitará no sólo cumplir con un marco legal en el desarrollo de proyectos sino también acelerar y aportar solidez en el paso de prueba de concepto a producción; los clientes contarán con expertos en desarrollo técnico y legal».
«Los algoritmos nos rodean y cada vez toman decisiones sobre aspectos más importantes de nuestra vida sin que seamos conscientes de que existen», sostiene Gemma Galdón, fundadora y CEO de Eticas.
Sngular es una compañía formada por un grupo de profesionales expertos en tecnología que facilita la innovación a través del uso de la última tecnología a empresas de distintos sectores. Ofrece servicios y soluciones integrales que abarcan desde el desarrollo de software a medida, pasando por sistemas de diseño o realidad virtual, hasta Martech, Inteligencia Artificial o Blockchain.
Eticas, por su parte, es una empresa pionera en auditoría algorítmica y líder global en el diseño de soluciones de ética práctica aplicadas a la Inteligencia Artificial, con experiencia en el sector público, privado e instituciones internacionales como Naciones Unidas, OECD o la Comisión Europea. Su metodología de auditoría algorítmica ha sido implementada en sectores diversos como salud, servicios, empleo, seguridad o banca.
Aplicaciones de Inteligencia Artificial responsable
Las empresas y las administraciones públicas utilizan de forma recurrente múltiples algoritmos para la toma de decisiones, pero gran parte de la población desconoce el uso de este tipo de procedimientos. La mayoría de estos sistemas de Inteligencia Artificial necesitan ser entrenados con un gran volumen de datos históricos del pasado para tomar decisiones en el presente; el problema es que no siempre están preparados para hacer frente a cambios en el comportamiento de las personas y alejarse de esas ‘certezas’ del pasado que ahora contribuyen a acentuar la desigualdad. Confiar en la neutralidad y objetividad de las máquinas implica asumir un riesgo muy elevado y aceptar que estos procesos algorítmicos van a reproducir los mismos sesgos y discriminaciones que ya existen en el mundo real.
En un momento marcado por la creciente preocupación y regulación en torno al uso responsable de la tecnología, Sngular y Eticas se alían para ayudar a las empresas que ya incorporan Inteligencia Artificial en sus procesos empresariales, o están empezando a elaborar una estrategia para hacerlo, a entender los riesgos de sus algoritmos e identificar dónde son vulnerables.
Entre los servicios que ofrecen a proyectos con algoritmos ya entrenados, se encuentran la identificación y mitigación de sesgos e ineficiencias, auditoría algorítmica, innovación regulatoria, plan de transparencia y fiabilidad, plan de implementación, integración humano/máquina y ‘human in the loop’, políticas y mecanismos de compartición de datos y documentación de impactos.
Asimismo, también brindan su conocimiento y experiencia para automatizaciones que aún estén en fase de planificación, con un plan de viabilidad técnica para la automatización de procesos, desarrollo de sistemas privacy-first, herramientas de privacy by design en la recolección, análisis y compartición de datos, evaluación y minimización de impactos legales y éticos, diseño de medidas de consentimiento, anonimización, encriptación y reparación así como diseño e implementación del gobierno del dato en proyectos y compañías.
Sngular y Eticas trabajan con tecnologías como Machine Learning, Deep learning, Natural Language Processing (NLP) o Computer Vision, en áreas tan dispares como la biometría y el reconocimiento facial, los asistentes conversacionales (chatbots) o dispositivos ‘smart’ con capacidad de almacenamiento de datos como cámaras, sensores y CCTV.
