Ciclo IA, Derechos y Democracia

La inteligencia artificial (IA) ha llegado para quedarse. En los últimos tiempos los sistemas de decisiones automatizadas están revolucionando industrias y sectores, así como nuestra cotidianidad. El chatbot ChatGPT resume ideas clave de textos extensos, redacta piezas periodísticas, o elabora cadenas de código aplicables. ¿Cómo afecta esta cuestión al sector de la educación, del periodismo o de la programación? O el software DALL·E 2, una IA que simplemente con pequeñas indicaciones en forma de descripciones crea imágenes verosímiles.

Ahora bien, el impacto y el ruido mediático no se adecuan a la realidad. La inteligencia artificial ya estaba en nuestras vidas mucho antes, a pesar de que quizás de una forma no tan evidente: algoritmos que seleccionan el contenido que se nos muestra en las redes sociales o a plataformas de streaming, publicidad personalizada en los buscadores, o sistemas de navegación son algunas de sus aplicaciones. Pero no solo. La tecnología basada en inteligencia artificial también opera y determina solicitudes de hipotecas o ayudas sociales, con todas las implicaciones en cuanto a derechos que puede tener que estos tipos de decisiones sean automatizadas. También se está aplicando tecnología basada en inteligencia artificial en sectores como la comunicación y el periodismo, y está determinando las condiciones laborales de muchas trabajadoras, a la vez que crea nuevos puestos de trabajo precarios enfocados a entrenar y alimentar los algoritmos.

Si bien la inteligencia artificial mejora la eficiencia y la productividad en tareas complejas y repetitivas, o incluso puede mejorar la precisión y la celeridad de diagnósticos médicos, también abre múltiples controversias y debates. ¿Qué sabemos de esta tecnología? ¿Por qué hay organizaciones que prefieren referirse a ella como «sistemas de decisión automatizada»? ¿Quién la gobierna? ¿Quién tiene acceso? ¿Qué implica reducir realidades complejas a sistemas de categorías y bancos de datos, para poder aplicar sistemas de decisiones automatizadas? ¿A quién se está dejando atrás?

Inteligencia artificial, derechos y democracia

El Canòdrom inicia un nuevo ciclo de cuatro conferencias que analizan la inteligencia artificial desde una perspectiva democrática. Desde qué efectos tiene en la sociedad, pasando por cómo afrontamos los desafíos en materia de defensa de los derechos, hasta cómo utilizamos la tecnología para mejorar la vida de las personas.

 🎙 Sesiones teórico-prácticas

Pedagogía crítica para inteligencias artificiales - 2 noviembre, 17:00h(Abrir en una pestaña nueva)

¿Cómo funciona realmente el procesamiento de datos? ¿Cómo llega a estos resultados? ¿Y cómo aprende de los resultados incorrectos? En esta sesión teórico-práctica con el colectivo Estampa nos aproximaremos al funcionamiento de los modelos de IA. ¿Cómo se llega a automatizar la generación de textos e imágenes? ¿En qué se basan para identificar qué hay en una imagen? ¿Cuáles son las implicaciones medioambientales y políticas del actual modelo de IA? Ponemos en práctica y continuamos las reflexiones generadas en el marco de este ciclo sobre las potencialidades y las limitaciones de la inteligencia artificial. ¡Inscríbete aquí!(Abrir en una pestaña nueva)

🎙 Debates

1️⃣ WTF, intel·ligència artificial? Riscos i potències - 23 febrer, 18:00h(Abrir en una pestaña nueva)

Si bien la inteligencia artificial mejora la eficiencia y la productividad en tareas complejas y repetitivas, o incluso puede mejorar la precisión y la celeridad de diagnósticos médicos, también plantea un montón de dudas y retos. ¿Qué sabemos de esta tecnología? ¿Por qué hay organizaciones que prefieren referirse a ella como «sistemas de decisión automatizada»? ¿Cuál es su recorrido histórico? ¿Qué implica reducir realidades complejas a sistemas de categorías y bancos de datos, para poder aplicar sistemas de decisiones automatizadas? ¿Cuáles son las principales potencialidades, y los principales sesgos, de la inteligencia artificial? En la primera sesión del Ciclo Inteligencia Artificial, Derechos y Democracia contamos con Carlos Castillo(Link extern) (UPF) y Maria Vanrell(Link extern) (UAB) para abordar estas cuestiones y adquirir unas nociones básicas sobre el funcionamiento, las aplicaciones y los debates éticos de esta tecnología.

2️⃣ IA, Polítiques públiques i Discriminacions - 20 abril, 18:00h(Abrir en una pestaña nueva)

El Ayuntamiento de Barcelona ha aprobado el protocolo “Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos”, que tiene como finalidad crear un protocolo interno para la implementación de sistemas algorítmicos e inteligencia artificial en el ámbito municipal. El Instituto de Derechos Humanos de Cataluña ha publicado un informe sobre los efectos de la inteligencia artificial en la igualdad y en la no discriminación, analizando donde, quien, para qué y ómo se desarrolla y aplica la inteligencia artificial. Algorace, una organización que fomenta espacios de diálogo con población racializada para concienciar sobre las consecuencias del uso racista de la IA, ha presentado una investigación que establece las bases necesarias para entender a que nos enfrentamos desde los colectivos sociales cuando hablamos de inteligencia artificial, o sistemas de decisión automatizados.

3️⃣ IA, Comunicació i Periodisme - 18 maig, 18:30h(Abrir en una pestaña nueva)

La aplicación de la inteligencia artificial en el mundo de la comunicación ha abierto una ventana de oportunidades, con una rendija oscura de retos. Las comunicadoras tienen a su disposición herramientas que redactan contenido en pocos segundos. Las periodistas pueden acceder a softwares que generan imágenes automáticas, y que ya han ocupado portadas de diarios nacionales e internacionales. ¿Dónde está la frontera entre herramientas para facilitar el trabajo a las periodistas, y herramientas para sustituir a las periodistas? ¿Cómo afecta el uso de estas herramientas al rigor periodístico y a la desinformación? ¿Qué está pasando en las redacciones catalanas? En esta sesión contamos con Patricia Ventura,(Link extern) doctora en ética, inteligencia artificial y comunicación y consultora de comunicación estratégica, Judith Membrives (Link extern), técnica de digitalización a Lafede.cat, Carles Planas Bou(Link extern), periodista tecnológico en El Periódico, y Enric Borràs(Link extern), subdirector del Diari ARA.

4️⃣ IA y Economia de plataformas - 22 juny, 18:30h(Abrir en una pestaña nueva)

La regulación de la IA aplicada al trabajo productivo y la economía de plataforma es fundamental para proteger los derechos laborales, pero ¿cómo articularla? Esto puede incluir la creación de leyes y políticas que garanticen la protección social, la seguridad laboral y la igualdad de oportunidades para los trabajadores en la economía de plataformas. También se plantea como clave fomentar la transparencia en los algoritmos utilizados en las plataformas y promover la rendición de cuentas de las empresas en términos de protección de los derechos laborales. En esta sesión contamos con Anna Ginès Fabrellas(Link extern), profesora del departamento de Derecho en ESADE y directora del Instituto de Estudios Laborales, Sergi Cutillas(Link extern), economista especializado en la política de competencia, digitalización y consultoría estratégica, miembro del Observatorio de Trabajo, Algoritmo y Sociedad, y Daniel Cruz Fuentes(Link extern), responsable de Análisis y Transformación Digital de CCOO Cataluña.

📚 Materials(Abrir en una pestaña nueva)

Consulta el repositorio abierto de informes y publicaciones que han guiado los debates