Cambios en "Charla: ¿Qué pasa cuando la IA toma las decisiones? Gobierno y desgobierno algorítmico"

El uso creciente de la inteligencia artificial en la toma de decisiones políticas plantea interrogantes fundamentales sobre el futuro de la democracia. Cuando los algoritmos comienzan a influir o incluso a determinar cuestiones que afectan a la vida pública y a los derechos de la ciudadanía, nos enfrentamos al riesgo de que las decisiones se deshumanicen. Estos sistemas, aunque parezcan neutros, se construyen a partir de datos y conocimiento humano que llevan implícitos valores, sesgos e intereses políticos. ¿Qué mecanismos tenemos para asegurar la transparencia, la aplicabilidad y la responsabilidad de un proceso de decisión automatizado? ¿Qué ocurre cuando el desgobierno algorítmico sustituye la deliberación democrática?

Al mismo tiempo, no se pueden ignorar las posibilidades de la IA para mejorar la gestión pública, optimizar recursos y ayudar en el análisis de problemas complejos. La clave está en entender la IA no como un sustituto del juicio político y humano, sino como una herramienta que debe estar sometida a marcos de gobernanza claros, con supervisión ciudadana y sólidos criterios éticos. En esta charla con Karina Gibert, Joan Subirats y Manuel Bedia debatiremos si estamos ante un avance tecnológico que puede reforzar la toma de decisiones públicas o un retroceso democrático si no se regula adecuadamente. ¿Qué elementos hay que garantizar para que la tecnología esté realmente al servicio de las personas y de la democracia, y no al revés?

Organiza: Dirección de Participación e Innovación Democrática

The growing use of artificial intelligence in political decision-making raises fundamental questions about the future of democracy. When algorithms begin to influence—or even directly determine—issues that affect public life and citizens’ rights, we face the risk of decisions becoming dehumanized. These systems, although they may seem neutral, are built on human data and knowledge that inherently carry values, biases, and political interests. What mechanisms do we have to ensure transparency, explainability, and accountability in an automated decision-making process? What happens when algorithmic misgovernance replaces democratic deliberation?

At the same time, we must not ignore the potential of AI to improve public administration, optimize resources, and assist in analyzing complex problems. The key lies in understanding AI not as a substitute for political and human judgment, but as a tool that must be subject to clear governance frameworks, citizen oversight, and strong ethical standards. In this talk with Karina Gibert, Joan Subirats, and Manuel Bedia, we will discuss whether we are facing a technological advancement that can strengthen public decision-making or a democratic setback if not properly regulated. What elements must be ensured so that technology truly serves people and democracy, and not the other way around?

Organized by: Directorate of Participation and Democratic Innovation