Il caso
Il caso di Filemone: l’articolo sulla malattia della madre che la ricerca non gli ha mai mostrato
Dopo una settimana di ricerche serali sulla malattia della madre, Filemone scopre da una foto inviata dalla sorella uno studio recente di un ospedale universitario, pubblico ma mai comparso tra i suoi risultati, che contraddice il quadro che si era fatto: mostra come una selezione fatta di informazioni corrette possa produrre un’idea sbagliata senza che chi cerca possa accorgersi di ciò che manca.
Le idee
La selezione invisibile è il funzionamento ordinario delle piattaforme, non un incidente
Il fatto che una parte dell’informazione resti invisibile a chi cerca non è un incidente né un difetto correggibile: è il funzionamento ordinario di infrastrutture private progettate per perseguire obiettivi propri, che producono un ambiente informativo strutturalmente asimmetrico in cui, quando gli obiettivi della piattaforma e quelli dell’utente divergono, decide la piattaforma e l’utente non ha strumenti per capire che cosa è rimasto fuori e perché.
La trasparenza algoritmica è la condizione di tutti gli altri diritti
Gli algoritmi che mediano l’accesso al sapere esercitano un potere cognitivo senza precedenti e, poiché un potere che non si vede non si può limitare, il diritto di chiunque a conoscere i criteri con cui i sistemi selezionano, amplificano o nascondono le informazioni è la condizione che viene prima di tutti gli altri diritti in una società interamente mediata dal digitale: una questione di diritti, non di ingegneria.
Punti da tenere a mente
- Gli algoritmi che mediano l’accesso al sapere per miliardi di persone sono una forma di potere né politico in senso classico né giuridico in senso formale, ma cognitivo: la capacità di dare forma a ciò che le persone sanno, credono, temono e desiderano, di una portata che nessuna istituzione ha mai avuto nella storia.
- L’ambiente informativo mediato dalle piattaforme è strutturalmente asimmetrico: chi espone l’informazione definisce criteri non trasparenti né noti all’utente, il quale vede il risultato senza conoscere il processo che lo ha prodotto e non può valutare né confrontare ciò che non gli viene mostrato.
- La bolla informativa prodotta dalla personalizzazione non ha pareti visibili: è fatta di informazioni che non vengono mostrate e delle quali, proprio per questo, non si può avvertire la mancanza.
Il diritto che emerge
Diritto alla trasparenza algoritmica
Diritto di chiunque a conoscere i criteri con cui i sistemi selezionano, amplificano o nascondono le informazioni che gli arrivano.
Art. 6 — Trasparenza algoritmica →I concetti
Passaggi dal libro
La bolla non ha pareti visibili: è fatta di assenze.
Sudditi digitali, «Il giardino murato»
Chi non sa di stare dentro una bolla non può uscirne.
Sudditi digitali, «Il giardino murato», sezione «Il diritto che emerge»
Per non restare dentro un giardino murato che ignoriamo perfino di abitare.
Sudditi digitali, «Il giardino murato», sezione «Sintesi»
Un potere che non si vede non si può limitare.
Sudditi digitali, «Il giardino murato», sezione «Il diritto che emerge»
Renderla trasparente è una questione di diritti, non di ingegneria.
Sudditi digitali, «Il giardino murato», sezione «Il diritto che emerge»
Domande aperte
Chi si sottrae ai sistemi digitali resta fuori dalla selezione algoritmica ma anche da prenotazioni, referti e pratiche: tra subire una mediazione opaca ed essere esclusi dai servizi, quale condizione è peggiore, e si può evitare di dover scegliere?
Le piattaforme sono infrastrutture private che costruiscono valore sui dati degli utenti e non enti con obbligo di servizio, ma oltre una certa scala la mediazione del sapere somiglia a una funzione pubblica: qual è quella scala, e come si impone l’obbligo di mostrare i criteri senza negare la natura privata di chi li applica?
Se nessuno accetterebbe un bibliotecario che toglie in silenzio dagli scaffali i libri che ritiene non interessino al lettore, perché la stessa selezione silenziosa è accettata quando la opera una piattaforma online? Il dialogo si ferma su «non ho detto che è accettabile, ho detto che è così».