Charla: ¿Qué pasa cuando la IA toma las decisiones? Gobierno y desgobierno algorítmico

El uso creciente de la inteligencia artificial en la toma de decisiones políticas plantea interrogantes fundamentales sobre el futuro de la democracia. Cuando los algoritmos comienzan a influir o incluso a determinar cuestiones que afectan a la vida pública y a los derechos de la ciudadanía, nos enfrentamos al riesgo de que las decisiones se deshumanicen. Estos sistemas, aunque parezcan neutros, se construyen a partir de datos y conocimiento humano que llevan implícitos valores, sesgos e intereses políticos. ¿Qué mecanismos tenemos para asegurar la transparencia, la aplicabilidad y la responsabilidad de un proceso de decisión automatizado? ¿Qué ocurre cuando el desgobierno algorítmico sustituye la deliberación democrática?

Al mismo tiempo, no se pueden ignorar las posibilidades de la IA para mejorar la gestión pública, optimizar recursos y ayudar en el análisis de problemas complejos. La clave está en entender la IA no como un sustituto del juicio político y humano, sino como una herramienta que debe estar sometida a marcos de gobernanza claros, con supervisión ciudadana y sólidos criterios éticos. En esta charla con Karina Gibert, Joan Subirats y Manuel Bedia debatiremos si estamos ante un avance tecnológico que puede reforzar la toma de decisiones públicas o un retroceso democrático si no se regula adecuadamente. ¿Qué elementos hay que garantizar para que la tecnología esté realmente al servicio de las personas y de la democracia, y no al revés?

Organiza: Dirección de Participación e Innovación Democrática