Changes at "Talk: What happens when AI makes the decisions? Algorithmic governance and ungovernance"

L’ús creixent de la intel·ligència artificial en la presa de decisions polítiques planteja interrogants fonamentals sobre el futur de la democràcia. Quan els algoritmes comencen a influir o directament a determinar qüestions que afecten la vida pública i els drets de la ciutadania, ens enfrontem al risc que les decisions es deshumanitzin. Aquests sistemes, tot i semblar neutres, es construeixen a partir de dades i coneixement humà que porta implícits valors, biaixos i interessos polítics. Quins mecanismes tenim per assegurar la transparència, l’explicabilitat i la responsabilitat d’un procés de decisió automatitzat? Què passa quan el desgovern algorítmic substitueix la deliberació democràtica?

Alhora, no es pot ignorar les possibilitats de la IA per millorar la gestió pública, optimitzar recursos i ajudar en l’anàlisi de problemes complexos. La clau està a entendre la IA no com un substitut del judici polític i humà, sinó com una eina que ha d’estar sotmesa a marcs de governança clara, amb supervisió ciutadana i criteris ètics forts. En aquesta xerrada amb Karina Gibert, Joan Subirats i Manuel Bedia debatrem si estem davant un avenç tecnològic que pot reforçar la presa de decisions públiques o un retrocés democràtic si no es regula adequadament. Quins elements cal garantir perquè la tecnologia estigui realment al servei de les persones i la democràcia i no a l’inrevés?

El uso creciente de la inteligencia artificial en la toma de decisiones políticas plantea interrogantes fundamentales sobre el futuro de la democracia. Cuando los algoritmos comienzan a influir o incluso a determinar cuestiones que afectan a la vida pública y a los derechos de la ciudadanía, nos enfrentamos al riesgo de que las decisiones se deshumanicen. Estos sistemas, aunque parezcan neutros, se construyen a partir de datos y conocimiento humano que llevan implícitos valores, sesgos e intereses políticos. ¿Qué mecanismos tenemos para asegurar la transparencia, la explicabilidad y la responsabilidad de un proceso de decisión automatizado? ¿Qué ocurre cuando el desgobierno algorítmico sustituye la deliberación democrática?

Al mismo tiempo, no se pueden ignorar las posibilidades de la IA para mejorar la gestión pública, optimizar recursos y ayudar en el análisis de problemas complejos. La clave está en entender la IA no como un sustituto del juicio político y humano, sino como una herramienta que debe estar sometida a marcos de gobernanza claros, con supervisión ciudadana y sólidos criterios éticos. En esta charla con Karina Gibert, Joan Subirats y Manuel Bedia debatiremos si estamos ante un avance tecnológico que puede reforzar la toma de decisiones públicas o un retroceso democrático si no se regula adecuadamente. ¿Qué elementos hay que garantizar para que la tecnología esté realmente al servicio de las personas y de la democracia, y no al revés?