Ciclo IA, Derechos y Democracia

Ciclo de conferencias donde analizamos la inteligencia artificial desde una perspectiva democrática. Desde qué efectos tiene en la sociedad, pasando por cómo afrontamos los desafíos en materia de defensa de los derechos, hasta cómo utilizamos la tecnología para mejorar la vida de las personas.

La inteligencia artificial (IA) ha llegado para quedarse. En los últimos tiempos los sistemas de decisiones automatizadas están revolucionando industrias y sectores, así como nuestra cotidianidad. El chatbot ChatGPT resume ideas clave de textos extensos, redacta piezas periodísticas, o elabora cadenas de código aplicables. ¿Cómo afecta esta cuestión al sector de la educación, del periodismo o de la programación? O el software DALL·E 2, una IA que simplemente con pequeñas indicaciones en forma de descripciones crea imágenes verosímiles.

Ahora bien, el impacto y el ruido mediático no se adecuan a la realidad. La inteligencia artificial ya estaba en nuestras vidas mucho antes, a pesar de que quizás de una forma no tan evidente: algoritmos que seleccionan el contenido que se nos muestra en las redes sociales o a plataformas de streaming, publicidad personalizada en los buscadores, o sistemas de navegación son algunas de sus aplicaciones. Pero no solo. La tecnología basada en inteligencia artificial también opera y determina solicitudes de hipotecas o ayudas sociales, con todas las implicaciones en cuanto a derechos que puede tener que estos tipos de decisiones sean automatizadas. También se está aplicando tecnología basada en inteligencia artificial en sectores como la comunicación y el periodismo, y está determinando las condiciones laborales de muchas trabajadoras, a la vez que crea nuevos puestos de trabajo precarios enfocados a entrenar y alimentar los algoritmos.

Si bien la inteligencia artificial mejora la eficiencia y la productividad en tareas complejas y repetitivas, o incluso puede mejorar la precisión y la celeridad de diagnósticos médicos, también abre múltiples controversias y debates. ¿Qué sabemos de esta tecnología? ¿Por qué hay organizaciones que prefieren referirse a ella como «sistemas de decisión automatizada»? ¿Quién la gobierna? ¿Quién tiene acceso? ¿Qué implica reducir realidades complejas a sistemas de categorías y bancos de datos, para poder aplicar sistemas de decisiones automatizadas? ¿A quién se está dejando atrás?

Inteligencia artificial, derechos y democracia

El Canòdrom inicia un nuevo ciclo de cuatro conferencias que analizan la inteligencia artificial desde una perspectiva democrática. Desde qué efectos tiene en la sociedad, pasando por cómo afrontamos los desafíos en materia de defensa de los derechos, hasta cómo utilizamos la tecnología para mejorar la vida de las personas.

 🎙 Sesiones teórico-prácticas

Pedagogía crítica para inteligencias artificiales - 2 noviembre, 17:00h

¿Cómo funciona realmente el procesamiento de datos? ¿Cómo llega a estos resultados? ¿Y cómo aprende de los resultados incorrectos? En esta sesión teórico-práctica con el colectivo Estampa nos aproximaremos al funcionamiento de los modelos de IA. ¿Cómo se llega a automatizar la generación de textos e imágenes? ¿En qué se basan para identificar qué hay en una imagen? ¿Cuáles son las implicaciones medioambientales y políticas del actual modelo de IA? Ponemos en práctica y continuamos las reflexiones generadas en el marco de este ciclo sobre las potencialidades y las limitaciones de la inteligencia artificial. ¡Inscríbete aquí!

🎙 Debates

1️⃣ WTF, intel·ligència artificial? Riscos i potències - 23 febrer, 18:00h

Si bien la inteligencia artificial mejora la eficiencia y la productividad en tareas complejas y repetitivas, o incluso puede mejorar la precisión y la celeridad de diagnósticos médicos, también plantea un montón de dudas y retos. ¿Qué sabemos de esta tecnología? ¿Por qué hay organizaciones que prefieren referirse a ella como «sistemas de decisión automatizada»? ¿Cuál es su recorrido histórico? ¿Qué implica reducir realidades complejas a sistemas de categorías y bancos de datos, para poder aplicar sistemas de decisiones automatizadas? ¿Cuáles son las principales potencialidades, y los principales sesgos, de la inteligencia artificial? En la primera sesión del Ciclo Inteligencia Artificial, Derechos y Democracia contamos con Carlos Castillo (UPF) y Maria Vanrell (UAB) para abordar estas cuestiones y adquirir unas nociones básicas sobre el funcionamiento, las aplicaciones y los debates éticos de esta tecnología.

2️⃣ IA, Polítiques públiques i Discriminacions - 20 abril, 18:00h

El Ayuntamiento de Barcelona ha aprobado el protocolo “Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos”, que tiene como finalidad crear un protocolo interno para la implementación de sistemas algorítmicos e inteligencia artificial en el ámbito municipal. El Instituto de Derechos Humanos de Cataluña ha publicado un informe sobre los efectos de la inteligencia artificial en la igualdad y en la no discriminación, analizando donde, quien, para qué y ómo se desarrolla y aplica la inteligencia artificial. Algorace, una organización que fomenta espacios de diálogo con población racializada para concienciar sobre las consecuencias del uso racista de la IA, ha presentado una investigación que establece las bases necesarias para entender a que nos enfrentamos desde los colectivos sociales cuando hablamos de inteligencia artificial, o sistemas de decisión automatizados.

3️⃣ IA, Comunicació i Periodisme - 18 maig, 18:30h

La aplicación de la inteligencia artificial en el mundo de la comunicación ha abierto una ventana de oportunidades, con una rendija oscura de retos. Las comunicadoras tienen a su disposición herramientas que redactan contenido en pocos segundos. Las periodistas pueden acceder a softwares que generan imágenes automáticas, y que ya han ocupado portadas de diarios nacionales e internacionales. ¿Dónde está la frontera entre herramientas para facilitar el trabajo a las periodistas, y herramientas para sustituir a las periodistas? ¿Cómo afecta el uso de estas herramientas al rigor periodístico y a la desinformación? ¿Qué está pasando en las redacciones catalanas? En esta sesión contamos con Patricia Ventura, doctora en ética, inteligencia artificial y comunicación y consultora de comunicación estratégica, Judith Membrives , técnica de digitalización a Lafede.cat, Carles Planas Bou, periodista tecnológico en El Periódico, y Enric Borràs, subdirector del Diari ARA.

4️⃣ IA y Economia de plataformas - 22 juny, 18:30h

La regulación de la IA aplicada al trabajo productivo y la economía de plataforma es fundamental para proteger los derechos laborales, pero ¿cómo articularla? Esto puede incluir la creación de leyes y políticas que garanticen la protección social, la seguridad laboral y la igualdad de oportunidades para los trabajadores en la economía de plataformas. También se plantea como clave fomentar la transparencia en los algoritmos utilizados en las plataformas y promover la rendición de cuentas de las empresas en términos de protección de los derechos laborales. En esta sesión contamos con Anna Ginès Fabrellas, profesora del departamento de Derecho en ESADE y directora del Instituto de Estudios Laborales, Sergi Cutillas, economista especializado en la política de competencia, digitalización y consultoría estratégica, miembro del Observatorio de Trabajo, Algoritmo y Sociedad, y Daniel Cruz Fuentes, responsable de Análisis y Transformación Digital de CCOO Cataluña.

📚 Materials

Consulta el repositorio abierto de informes y publicaciones que han guiado los debates

1️⃣ Sessió 1 | WTF, intel·ligència artificial? Riscos i potències - 23 febrero

2️⃣ Sessió 2 | IA, Polítiques públiques i Discriminacions - 20 abril

3️⃣ Sessió 3 | IA, Comunicació i Periodisme - 18 mayo

4️⃣ Sessió 4 | IA i Economia de plataformes - 22 junio (pròximamente)

5️⃣ Pedagogia crítica para inteligencias artificiales - 2 novembre (pròximamente)