Femminismo dei dati per un uso più equo dell’IA

Giulia Sudano, Giuditta Bellosi
Period Think Tank

I dati che ci circondano e che utilizziamo per leggere la realtà non sono mai neutri. Quali dati si raccolgono, come si raccolgono e come vengono utilizzati sono processi che veicolano delle scelte. Per questo, l’approccio alla data science dovrebbe essere un approccio critico e consapevole delle dinamiche di potere che possono portare a distorsioni, come ad esempio la sorveglianza attraverso la registrazione di dati online ed offline, la cosiddetta dataveillancee, e la datafication, la trasformazione di molti aspetti della nostra esistenza quotidiana in dati.
Tuttavia, i dati possono anche diventare uno spazio di lotta e rivendicazione, dove è possibile rendere visibili contesti e discriminazioni, altrimenti ignorate. Verso questa finalità, a fine 2020 Period Think Tank è nata a Bologna per creare in Italia un soggetto capace di costruire un ponte fra mondi (trans)femministi e quelli dell’open data e della trasparenza per promuovere l’equità di genere attraverso un approccio femminista intersezionale ai dati. Prendendo ispirazione dalla metodologia del femminismo dei dati, illustrata da Catherine D’Ignazio e Lauren Klein nel libro “Data feminism” pubblicato nel 2020, Period ha lavorato per concretizzarne i principi in azioni che avessero un impatto tangibile e replicabile in diversi contesti.

Principi chiave del “data feminism”

1. Esaminare il potere: analizzare come il potere opera nel mondo;
2. Sfidare il potere: sfidare le strutture di potere diseguali;
3. Promuovere emozioni e incarnazioni: valutare molteplici forme di conoscenza, dando priorità a quelle che provengono dall’esperienza diretta;
4. Ripensare il binarismo e le gerarchie: sfidare i sistemi di classificazione;
5. Praticare il pluralismo: sintetizzare molteplici prospettive con priorità per le comunità locali;
6. Considerare il contesto: i dati non sono neutrali, ma il prodotto di un percorso di disuguaglianze;
7. Rendere visibile il lavoro: rendere visibile il lavoro di coloro che raccolgono e analizzano i dati.

Da marzo 2021 Period Think Tank ha cercato di operazionalizzare questi principi, partendo dalla campagna #datipercontare con l’obiettivo di richiedere a tutti i livelli istituzionali, valutare e monitorare l’impatto di genere delle politiche pubbliche. La richiesta alle istituzioni è di raccogliere e disaggregare, almeno per genere, i dati necessari a costruire una valutazione di impatto di genere preventiva delle politiche e dei progetti da attuare. A oggi, hanno aderito formalmente i comuni di Bologna, Palermo, Milano, Ravenna, Cento, Imola, Piana degli Albanesi, Crevalcore, Reggio Emilia, Roma e altri ne stanno valutando l’adesione. Alcuni di questi hanno anche avviato un percorso di graduale attuazione di questi strumenti, attraverso l’utilizzo del Bilancio di genere.

Dai dati all’Intelligenza Artificiale in ottica intersezionale.
Il lavoro di Period sui dati con le istituzioni, a partire dagli enti locali, si è esteso dal 2022 anche all’equità nei sistemi di intelligenza artificiale. Il concetto di “fairness” dell’AI si riferisce alla capacità di un sistema di prendere decisioni in modo equo e imparziale, evitando discriminazioni o pregiudizi nei confronti di gruppi di persone basati su caratteristiche come genere, provenienza, età, disabilità o status sociale. L’opportunità di partecipare come partner ad Aequitas, progetto di ricerca finanziato da Horizon Europe, ci ha permesso di ragionare sulle possibili applicazioni pratiche del concetto di intersezionalità all’interno di sistemi di intelligenza artificiale (IA). L’intersezionalità è un quadro teorico che focalizza l’attenzione sui modi in cui le esperienze di coloro che si trovano in diverse intersezioni socio-demografiche sono modellate in modo diverso dal potere sociale in contesti strutturali e interpersonali (Collins, 1991; Crenshaw, 1989). AEQUITAS, attraverso un innovativo ambiente di sperimentazione, ha incorporato l’equità in ogni fase del ciclo di vita dell’IA, integrando considerazioni sociali, giuridiche ed etiche, per garantire che i sistemi di IA siano progettati per ridurre discriminazioni e pregiudizi, in linea con le principali normative europee, come l’AI Act dell’Unione Europea e la Carta dei diritti fondamentali dell’Unione europea. Le istanze che abbiamo portato all’interno del percorso, che ha coinvolto diversi soggetti come università, aziende, associazioni e sindacati di diversi paesi europei, sono state molteplici. Da un lato evidenziare le criticità rispetto alla mancanza di rappresentatività dei dataset in ottica intersezionale per l’equità dell’IA, proteggendo al contempo la privacy delle persone, e l’importanza del coinvolgimento delle persone, specialmente le più marginalizzate nello sviluppo e valutazione di pregiudizi e discriminazioni dell’IA, non solo nei test, con metodi partecipativi. Dall’altro sarebbe opportuno favorire formazione del personale delle pubbliche amministrazioni per un uso equo ed etico dei sistemi di IA e maggiori partnership tra il mondo della ricerca e attiviste/i per aumentare la consapevolezza dell’opinione pubblica e dei media sulle potenziali discriminazioni dell’IA, aumentando la pressione sulle istituzioni per la sua regolamentazione e supervisione. Inoltre, rispetto al riconoscimento e alla mitigazione di pregiudizi e discriminazioni è fondamentale tenere presente le specificità del contesto di riferimento e garantire la trasparenza su dataset e algoritmi di addestramento dei sistemi.

L’applicazione di big data ed AI nei contesti urbani: gemelli urbani digitali.
L’uso di sistemi di intelligenza artificiale si sta progressivamente estendendo anche in contesti urbani con lo sviluppo di strumenti come i gemelli digitali urbani, che consistono in una serie di infrastrutture tecnologiche che permettono rappresentazioni virtuali delle città, in grado di supportare processi decisionali tramite funzioni avanzate di simulazione, analisi e previsione, e di conseguenza interagire e modificare lo spazio reale. Il gemello digitale della città di Bologna rappresenta il caso più rilevante nel panorama italiano sia per le infrastrutture pubbliche presenti nella città come DAMA – Tecnopolo Data Manifattura, che ospita attualmente alcuni tra i più potenti HPC – High Performance Computer – al mondo , sia per la cifra distintiva di voler creare un gemello urbano digitale “civico”. Il Gemello Digitale Urbano, avviato dalla Giunta del Comune di Bologna nel settembre 2023, ha obiettivi ambiziosi: affrontare i cambiamenti climatici, ridurre le disuguaglianze sociali ed economiche, migliorare la qualità della vita urbana. Il Gemello Digitale si propone di essere uno strumento al servizio delle persone e delle comunità.
Questo progetto rappresenta una sfida fondamentale rispetto alla possibilità di utilizzare e indirizzare queste tecnologie verso obiettivi di giustizia sociale e non di sorveglianza di massa. Per questo, Period Think Tank sta costruendo un processo di dialogo con il Comune di Bologna per affrontarne le implicazioni sociali, politiche ed economiche, sempre con approccio intersezionale. L’efficacia del Gemello digitale urbano dipenderà dalla qualità, quantità e varietà dei dati disponibili: è essenziale che essi rappresentino fedelmente la diversità delle soggettività che abitano il territorio, le città non sono spazi neutri. Senza questa base, esiste il rischio concreto che le innovazioni tecnologiche amplifichino le discriminazioni e creino nuove marginalizzazioni, anziché contribuire a eliminarle.
I gemelli digitali rischiano di concentrarsi eccessivamente sull’efficientamento di risorse e infrastrutture senza inserire accanto metriche di valutazione di impatto sociale, considerando cittadini utenti identici del servizio, senza le loro specificità.
Il rischio di un approccio di mera efficienza senza altri ragionamenti politici rischia di esacerbare le discriminazioni esistenti e magari amplificarle. E’ fondamentale, quindi che ci sia un coinvolgimento diretto dalle prime fasi di sviluppo della società civile nelle sue diverse forme, accompagnato da una significativa azione di alfabetizzazione sul tema, affinché possano acquisire consapevolezza e partecipare in modo critico al suo utilizzo.