La primera cumbre mundial sobre los riesgos de la inteligencia artificial (IA) reunió en Reino Unido a dirigentes políticos, gigantes tecnológicos y expertos que debatirán sobre los peligros que plantea el auge de esta tecnología.
La actual revolución tecnológica despierta emociones encontradas, generando tanto entusiasmo como inquietudes, las cuales serán el foco de atención durante los dos días de esta reunión celebrada en Bletchley Park, un lugar icónico que desempeñó un papel crucial en el desciframiento de comunicaciones durante la Segunda Guerra Mundial.
Crear un instituto de IA
En la reunión, los participantes abordaron los posibles riesgos de la IA de vanguardia, incluyendo el controvertido robot ChatGPT. De manera paralela, la vicepresidenta de Estados Unidos, Kamala Harris, anunció en Londres la creación de un instituto sobre la seguridad de la IA en Washington. Este instituto reunirá a expertos para establecer «directrices» e identificar y mitigar los riesgos asociados a esta tecnología, según un comunicado de la Casa Blanca.
La cumbre contó con la participación de destacados representantes políticos, como la presidenta de la Comisión Europea, Ursula von der Leyen, y el secretario general de la ONU, António Guterres.
Las IAs generativas, a debate en la cumbre
Las IA generativas, capaces de generar textos, sonidos o imágenes en cuestión de segundos a partir de una solicitud, han avanzado significativamente en los últimos años. Si bien esta tecnología ofrece grandes posibilidades en campos como la medicina y la educación, también plantea la posibilidad de desestabilizar sociedades, facilitar la creación de armas o escapar al control humano, según advierte el Gobierno británico.
En una carta abierta publicada recientemente, varios pioneros en esta tecnología, como Yoshua Bengio y Geoffrey Hinton, han instado a la elaboración y ratificación de un tratado internacional sobre IA para reducir los riesgos potencialmente catastróficos que los sistemas avanzados pueden representar para la humanidad.
El Gobierno británico busca al menos obtener una «primera declaración internacional sobre la naturaleza» de los riesgos de la IA y propone la creación de un grupo de analistas internacionales, siguiendo el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).
La cumbre ha sido una oportunidad para reunir a expertos con las habilidades adecuadas para debatir cómo mitigar estos riesgos sin obstaculizar la innovación en los laboratorios de IA y en las empresas tecnológicas.
Tanto la Unión Europea como Estados Unidos han optado por la regulación, y el presidente estadounidense, Joe Biden, anunció recientemente un amplio conjunto de normas y principios para guiar a nivel internacional.
Varias empresas, incluyendo OpenAI, Meta (Facebook) y DeepMind (Google), acordaron hacer públicas algunas de sus reglas de seguridad sobre la IA, en respuesta a una solicitud del Reino Unido.
Sin embargo, algunas voces han expresado su preocupación de que esta reunión se celebre «a puerta cerrada», estando dominada por las grandes empresas tecnológicas y con un acceso limitado para la sociedad civil. Se argumenta que es necesario dejar de considerar que las empresas con fines lucrativos son los únicos propietarios legítimos de los sistemas de IA, dado su impacto en la vida y el trabajo de las personas.
