Xerrada: Què passa quan la IA pren les decisions? Govern i desgovern algorítmic

L’ús creixent de la intel·ligència artificial en la presa de decisions polítiques planteja interrogants fonamentals sobre el futur de la democràcia. Quan els algoritmes comencen a influir o directament a determinar qüestions que afecten la vida pública i els drets de la ciutadania, ens enfrontem al risc que les decisions es deshumanitzin. Aquests sistemes, tot i semblar neutres, es construeixen a partir de dades i coneixement humà que porta implícits valors, biaixos i interessos polítics. Quins mecanismes tenim per assegurar la transparència, l'aplicabilitat i la responsabilitat d’un procés de decisió automatitzat? Què passa quan el desgovern algorítmic substitueix la deliberació democràtica?

Alhora, no es pot ignorar les possibilitats de la IA per millorar la gestió pública, optimitzar recursos i ajudar en l’anàlisi de problemes complexos. La clau està a entendre la IA no com un substitut del judici polític i humà, sinó com una eina que ha d’estar sotmesa a marcs de governança clara, amb supervisió ciutadana i criteris ètics forts. En aquesta xerrada amb Karina Gibert, Joan Subirats i Manuel Bedia debatrem si estem davant un avenç tecnològic que pot reforçar la presa de decisions públiques o un retrocés democràtic si no es regula adequadament. Quins elements cal garantir perquè la tecnologia estigui realment al servei de les persones i la democràcia i no a l’inrevés?

Organitza: Direcció de Participació i Innovació Democràtica