Cicle IA, Drets i Democràcia

Cicle de conferències on analitzem la intel·ligència artificial des d'una perspectiva democràtica. Des de quins efectes té en la societat, passant per com afrontem els desafiaments en matèria de defensa dels drets, fins a com utilitzem la tecnologia per millorar la vida de les persones.

La intel·ligència artificial (IA) ha arribat per quedar-se. En els darrers temps els sistemes de decisions automatitzades estan revolucionant indústries i sectors, així com la nostra quotidianitat. El xatbot ChatGPT resumeix idees clau de textos extensos, redacta peces periodístiques, o elabora cadenes de codi aplicables. Com afecta aquesta qüestió al sector de l'educació, del periodisme o de la programació? O el programari DALL·E 2, una IA que simplement amb petites indicacions en forma de descripcions crea imatges versemblants.

Ara bé, l'impacte i el soroll mediàtic no s'adequa a la realitat. La intel·ligència artificial ja era a les nostres vides molt abans tot i que potser d'una forma no tan evident: algoritmes que seleccionen el contingut que se'ns mostra a les xarxes socials o a plataformes d'streaming, publicitat personalitzada als cercadors, o sistemes de navegació són algunes de les seves aplicacions. Però no només. La tecnologia basada en intel·ligència artificial també opera i determina sol·licituds d'hipoteques o ajudes socials, amb totes les implicacions pel que fa a drets que pot tenir que aquests tipus de decisions siguin automatitzades. També s'està aplicant tecnologia basada en intel·ligència artificial en sectors com la comunicació i el periodisme, i està determinant les condicions laborals de moltes treballadores, a la vegada que crea nous llocs de treball precaris enfocats a entrenar i alimentar els algoritmes.

Si bé la intel·ligència artificial millora l'eficiència i la productivitat en tasques complexes i repetitives, o fins i tot pot millorar la precisió i la celeritat de diagnòstics mèdics, també obre múltiples controvèrsies i debats. Què en sabem, d'aquesta tecnologia? Per què hi ha organitzacions que prefereixen referir-s'hi com a «sistemes de decisió automatitzada»? Qui la governa? Qui hi té accés? Què implica reduir realitats complexes a sistemes de categories i bancs de dades, per tal de poder aplicar sistemes de decisions automatitzades? A qui s'està deixant enrere?

Intel·ligència artificial, drets i democràcia

El Canòdrom inicia un nou cicle de quatre conferències que analitzen la intel·ligència artificial des d'una perspectiva democràtica. Des de quins efectes té en la societat, passant per com afrontem els desafiaments en matèria de defensa dels drets, fins a com utilitzem la tecnologia per millorar la vida de les persones.

🎙 Pròximes sessions

5️⃣ Pedagogia crítica per a intel·ligències artificials - 2 novembre, 17:00 h.

Com funciona realment el processament de dades? Com arriba a aquests resultats? I com aprèn dels resultats incorrectes? En aquesta sessió teòrico-pràctica amb el col·lectiu Estampa ens aproximarem al funcionament dels models de IA. Com s'arriba a automatitzar la generació de textos i imatges? En què es basen per identificar que hi ha en una imatge? Quines són les implicacions mediambientals i polítiques de l'actual modelo de IA? Posem en pràctica i continuem les reflexions generades en el marc d'aquest cicle sobre les potencialitats i les limitacions de la intel·ligència artificial. Inscriu-te ja aquí!

🎙 Debats passats

1️⃣ WTF, intel·ligència artificial? Riscos i potències - 23 febrer, 18:00 h.

Si bé la intel·ligència artificial millora l'eficiència i la productivitat en tasques complexes i repetitives, o fins i tot pot millorar la precisió i la celeritat de diagnòstics mèdics, també planteja un munt de dubtes i reptes. Què en sabem, d'aquesta tecnologia? Per què hi ha organitzacions que prefereixen referir-s'hi com a «sistemes de decisió automatitzada»? Quin és el seu recorregut històric? Què implica reduir realitats complexes a sistemes de categories i bancs de dades, per tal de poder aplicar sistemes de decisions automatitzades? Quines són les principals potencialitats, i els principals biaixos, de la intel·ligència artificial? En la primera sessió del Cicle Intel·ligència Artificial, Drets i Democràcia comptem amb Carlos Castillo (UPF) i Maria Vanrell (UAB) per tal d'abordar aquestes qüestions i poder tenir unes nocions bàsiques sobre el funcionament, les aplicacions i els debats ètics d'aquesta tecnologia.

2️⃣ IA, Polítiques públiques i Discriminacions - 20 abril, 18:00 h.

L’Ajuntament de Barcelona ha aprovat el protocol “Definició de metodologies de treball i protocols per a la implementació de sistemes algorítmics”, que té com a finalitat crear un protocol intern per a la implementació de sistemes algorítmics i intel·ligència artificial en l’àmbit municipal. L'Institut de Drets Humans de Catalunya ha publicat un informe sobre els efectes de la intel·ligència artificial en la igualtat i en la no discriminació, analitzant on, qui, per a què i com es desenvolupa i aplica la intel·ligència artificial. Algorace, una organització que fomenta espais de diàleg amb població racialitzada per conscienciar sobre les conseqüències de l'ús racista de la IA, ha presentat una investigació que estableix les bases necessàries per entendre a què ens enfrontem des dels col·lectius socials quan parlem d’intel·ligència artificial, o sistemes de decisió automatitzats.

3️⃣ IA, Comunicació i Periodisme - 18 maig, 18:30 h.

L’aplicació de la intel·ligència artificial en el món de la comunicació ha obert una finestra d’oportunitats, amb una escletxa prou fosca de reptes. Les comunicadores tenen a la seva disposició eines que redacten contingut amb pocs segons. Les periodistes poden accedir a programari que genera imatges automàtiques, i que ja han ocupat portades de diaris nacionals i internacionals. On està la frontera entre eines per facilitar la feina als periodistes, i eines per substituir als periodistes? Com afecta l'ús d’aquestes eines al rigor periodístic i a la desinformació? Què està passant en les redaccions catalanes? En aquesta sessió comptem amb Patricia Ventura, doctora en ètica, intel·ligència artificial i comunicació i consultora de comunicació estratègica, Judith Membrives, tècnica de digitalització a Lafede.cat, Carles Planas Bou, periodista tecnològic a El Periódico, i Enric Borràs, subdirector del Diari ARA.

4️⃣ IA i Economia de plataformes - 22 juny, 18:30 h.

La regulació de la IA aplicada al treball productiu i l'economia de plataforma és fonamental per a protegir els drets laborals, però com articular-la? Això pot incloure la creació de lleis i polítiques que garanteixin la protecció social, la seguretat laboral i la igualtat d'oportunitats per als treballadors en l'economia de plataformes. També es planteja com a clau fomentar la transparència en els algorismes utilitzats en les plataformes i promoure la rendició de comptes de les empreses en termes de protecció dels drets laborals. En aquesta sessió comptem amb Anna Ginès Fabrellas, professora del departament de Dret a ESADE i directora de l'Institut d'Estudis Laborals, Sergi Cutillas, economista especialitzat en la política de competència, digitalització i consultoria estratègica, membre de l'Observatori de Treball, Algorimte i Societat, i Daniel Cruz Fuentes, responsable d'Anàlisis i Transformació Digital de CCOO Catalunya.

📚 Materials

Consulta el repositori obert d'informes i publicacions que han guiat els debats.

1️⃣ Sessió 1 | WTF, intel·ligència artificial? Riscos i potències - 23 febrer

2️⃣ Sessió 2 | IA, Polítiques públiques i Discriminacions - 20 abril

3️⃣ Sessió 3 | IA, Comunicació i Periodisme - 18 maig

4️⃣ Sessió 4 | IA i Economia de plataformes - 22 juny