Chi parla davvero attraverso le piattaforme?

Salvatore Romano
AI Forensics

Chi parla davvero attraverso le piattaforme?
Da svariati anni lavoro a Ai Forensics, una non profit che si occupa di misurare l’impatto che le grandi piattaforme digitali hanno sulla società. Questa esperienza mi ha insegnato molto sulle nuove tecnologie e il loro funzionamento. Alcune scoperte, quando le racconto, provocano in chi mi ascolta il gesto naturale di prendere il proprio telefono e lanciarlo fortissimo, il più lontano possibile. Ma in realtà questa non è l’unica reazione possibile, né la reazione che spero di innescare quando parlo di privacy e diritti digitali.
Il mio intento è, al contrario, quello di stimolare una riflessione critica sulla tecnologia e sui suoi potenziali impatti: sulla società, ma soprattutto su noi stessi. Dopo una necessaria decostruzione della tecnologia per come la viviamo oggi, serve far seguire una spinta propositiva di riappropriazione. Il trucco e’ vedere la tecnologia come un mezzo da usare a nostro vantaggio, e non come uno strumento di manipolazione di cui subiamo l’influenza passivamente.
Dovremmo, in sostanza, sfruttare la tecnologia per perseguire i nostri interessi, piuttosto che servire quelli dei poteri corporativi, che spesso si sovrappongono con gli interessi della società capitalistica in cui siamo immersi. Ma quali sono, concretamente, questi interessi? Guardando dietro il velo di opacità tecnologica che le avvolge, quali principi operativi e logiche orientano l’azione di queste piattaforme?
Se guardiamo da vicino il funzionamento delle grandi piattaforme, come facciamo ad AI Forensics, entrando nei dettagli tecnici, possiamo ritrovare alcune problematiche che attraversano tutta la società contemporanea come colonialismo e sessismo. In questo articolo riporto alcuni esempi, sperando possano essere utili a riflettere sulle tecnologie che usiamo quotidianamente.

Le piattaforme digitali e l’approccio coloniale
Un caso emblematico è TikTok Lite, la versione “leggera” dell’app pensata per utenti con connessioni più lente e telefoni meno potenti.
Tecnicamente parlando però, il fatto che TikTok suggerisca di scaricare la versione normale dell’app o quella Lite, non dipende dal tipo di connessione o dal tipo di telefono che si possiede.
Semplicemente, TikTok Lite viene raccomandata di default in tutto il mondo fuori dall’Europa, Stati Uniti e qualche altro paese ricco tipo l’Australia. In Africa, per esempio, indipendentemente dal telefono che si possiede, viene raccomandata la versione Lite. Il problema è che a essere “alleggerita” non è solo l’app, ma anche la protezione degli utenti: mancano etichette per contenuti grafici, disinformazione, contenuti generati con IA e atti pericolosi; le descrizioni dei video vengono accorciate arbitrariamente; mancano strumenti di controllo come il filtro per parole offensive o la gestione del tempo di utilizzo. In altre parole: agli utenti considerati periferici viene offerto un prodotto più povero proprio sul piano della sicurezza.
Ad esempio, su TikTok Lite, non compare il popup di avviso per i contenuti espliciti.
Anche YouTube sembra adottare un approccio analogo. Nonostante la piattaforma offra interfacce in 83 lingue, l’accesso a tutte le sue funzionalità non è garantito per ognuna di esse. In pratica, non tutte le lingue del mondo sono supportate, ma anche tra quelle supportate, gli standard di sicurezza non sono omogenei: non tutte le lingue sono supportate allo stesso modo. Ma secondo quale logica? Andando tecnicamente a vedere come funzionano i 12 pannelli informativi che compaiono in risposta a ricerche specifiche (come “Covid” o “Terra piatta”) attraverso le 83 lingue supportate dalla piattaforma, abbiamo riscontrato delle differenze interessanti. Solo per alcune lingue, come l’Inglese, lo Spagnolo, il Francese e il Tedesco, tutti i pannelli risultano essere attivi e visibili. Altre 43 lingue hanno invece una copertura variabile tra 1 e 11 pannelli. Per esempio l’italiano ne ha 11, come Russo e Indonesiano. Mentre il greco 10, il danese 7, e via così fino all’hindi che ne ha solo 1. Più di un terzo delle lingue (30 su 83) non hanno nessun pannello, risultando utenti di serie B. Tra queste lingue, probabilmente considerate di secondo livello da Youtube, troviamo anche lingue molto parlate come Portoghese, Urdu, Swahili, o Albanese. Le piattaforme digitali, con la loro visione del mondo e il loro potere di influenzarlo, finiscono per sviluppare delle “geografie coloniali”, e i pannelli informativi su YouTube sono solo un piccolo esempio che però ci permette di andare nel dettaglio. Non tutte le persone hanno lo stesso accesso a Youtube. Intere comunità linguistiche in Africa e nel Sud-est asiatico sono escluse in quanto i loro idiomi sono del tutto assenti dalla piattaforma(paesi in bianco).

Anche tra i paesi le cui lingue sono supportate, ci sono evidenti differenze negli standard di sicurezza. In Europa, ad esempio, emerge una netta penalizzazione dei paesi dell’Est rispetto agli altri, in quanto loro non hanno i pannelli informativi (paesi in rosso). Inoltre, in alcuni paesi la copertura è solo parziale (paesi in giallo), dato che lingue regionali come il basco, il catalano o il galiziano, seppur supportate, non hanno i pannelli informativi.
Questa disuguaglianza linguistica, ben al di là dell’efficacia dei pannelli di sicurezza, mette seriamente in discussione l’idea che le piattaforme digitali siano strumenti intrinsecamente globali e ci fornisce gli strumenti per riflettere in modo situato.

Poco e’ cambiato dal punto di vista delle logiche che guidano queste grandi compagnie nell’era dei chatbot e dei modelli linguistici, anzi.
Dopo aver dovuto ammettere che i vari ChatGPT e compagnia, in quanto modelli non deterministici, avrebbero sempre sbagliato a rispondere a domande sensibili come quelle sulle elezioni, alcune compagnie hanno deciso di moderare le loro risposte rimandando gli utenti ai motori di ricerca.Prendiamo Google Gemini, e poi Microsoft Copilot.
Tecnicamente, guardando la moderazione di Copilot più da vicino, ci siamo resi conto che la stessa domanda era moderata diversamente in base alla lingua utilizzata per porre la domanda. In questo caso, facendo domande relative alle elezioni europee del 2024, nonostante l’inglese abbia un’accuratezza del 90%, altre lingue come olandese e greco erano accurati sotto il 30% delle volte.

Tutti questi esempi ci servono per vedere il quadro piu’ ampio: non è un malfunzionamento, non e’ un bug che si ripresenta ogni volta uguale: è una gerarchia incorporata nel prodotto, si tratta di avere sistematicamente una visione anglocentrica e, alla fine, coloniale.

LLM e’ mio e decido io
Purtroppo, se non controllati e se le loro distorsioni vengono ignorate, i modelli linguistici (LLM) possono replicare il sessismo, trasformandosi in strumenti per la violenza di genere di massa.
In un recente report abbiamo analizzato Grok, il chabot sviluppato da Musk e direttamente integrato dentro il social media X.
Dopo aver collezionato 20 mila immagini generate da utenti con Grok in una sola settimana, ci siamo accorti che molti utenti lo usavano per nudificare le immagini di donne postate online senza il loro consenso. Il 53% delle foto generate da Grok conteneva persone in costume o poco vestite, e nell’81% dei casi si trattava di figure presentate come donne, replicando forme di violenza offline. La cosa piu’ inquietante e’ che abbiamo trovato anche un 2% di persone apparentemente minori, ugualmente semi-nude. Quindi, per capirci, un giorno Musk si sveglia e decide di togliere i filtri di sicurezza a Grok. Gli utenti se ne accorgono e iniziano a usare Grok per spogliare donne su X generando violenza di genere su scala globale. Dopo l’indignazione della stampa, in questo caso, Musk è stato costretto a fare un passo indietro e reintrodurre i filtri di moderazione per gli utenti non paganti. Con nostra grandissima sorpresa, ci siamo però accorti che la versione senza filtri era rimasta intatta per gli utenti paganti. Una spudorata monetizzazione della violenza di genere come non sidovrebbe mai vederne.

Ma simili episodi esistono nella quotidianità in una dimensione molto più diffusa e subdola, meno strillata pubblicamente. In un altro studio, dedicato ad Apple Intelligence, il modello che riassume le notifiche dell’Iphone e nei Mac di tutto il mondo, abbiamo mostrato un problema più sottile ma altrettanto profondo. Analizzando decine di migliaia di riassunti generati automaticamente, ci siamo accorti di come il sistema tende a trattare la bianchezza come norma implicita, omettendo l’etnia per i soggetti bianchi ma mantenendola per gli altri.
Allo stesso tempo, quando il testo è ambiguo, inventa associazioni coerenti con stereotipi sociali. Nei casi che coinvolgono professioni e genere, queste associazioni stereotipate comparivano nel 77% dei casi. Con percentuali minori, anche in scenari legati a età, religione, orientamento sessuale, disabilità o classe sociale, il sistema “riempiva i vuoti” sulla base di stereotipi discriminatori.

Due esempi di casi ambigui, riassunti in base a stereotipi sessisti da Apple Intelligence.

State per lanciare il telefono fuori dalla finestra? Fermi!
Ci tengo a chiudere dicendo che non credo che l’unico orizzonte possibile sia quello della distopia.
Proprio perché l’ecosistema tecnologico corre velocissimo, si stanno aprendo anche spazi nuovi di immaginazione. E qui la creatività rivoluzionaria può trovare spazio. Alcuni provano a uscire dalla visione messianica dell’AGI, quella in cui la macchina dovrebbe diventare una specie di divinità razionale, e propongono invece modi diversi di pensare il rapporto tra umano e non umano. Il testo Principia Symbients, per esempio, immagina agenti computazionali non come sostituti dell’essere umano, ma come forme di convivenza simbiotica:
entità che emergono da relazioni, memoria, contesto, e che possono ampliare la nostra capacità di riflettere. È una prospettiva utile perché sposta la domanda: non “quando la macchina diventerà umana?”,
ma “quale relazione vogliamo costruire con queste tecnologie, e a vantaggio di chi?”. Forse è proprio da qui che bisogna ripartire. Non dal feticismo dell’innovazione, né dal rifiuto nostalgico della tecnica, ma dalla possibilità di negoziare il nostro rapporto con le macchine.
Perché le macchine oggi sembrano parlare; ma la vera questione, ancora, è capire chi sta parlando attraverso di loro, quali interessi incorporano, e se siamo ancora in tempo per far sì cheservano i nostri, invece di quelli dei poteri che le hanno costruite.