Il caso
Il caso di Alcibiade: l’obiezione di Filippo e il pezzo sul nucleare
Alcibiade, che da anni vince le discussioni social sul nucleare contro avversari dai toni apocalittici, a cena riceve un’obiezione pacata e informata che in rete non gli era mai arrivata; scopre poi che il sistema ha imparato non solo che cosa mostrargli ma quale Alcibiade mostrare agli altri, e che fatica a riscrivere in forma dubitativa l’apertura del suo pezzo: la ripristina quasi senza pensarci, prima di decidere di pubblicare la versione nuova. Mostra come il passato misurato richiami la persona verso ciò che è già stata pur lasciandola formalmente libera.
Le idee
Il passato, ben misurato, si spaccia per destino
I sistemi di raccomandazione delle piattaforme trasformano la rappresentazione statistica del comportamento passato di una persona in una previsione che ne orienta il futuro: non vietano il cambiamento, ma rendono la coerenza più facile da distribuire e più conveniente da monetizzare, sicché la persona resta formalmente libera di cambiare ma viene richiamata, dal sistema, dal pubblico e dalla reputazione costruiti attorno alla sua versione precedente, verso ciò che è già stata.
Il profilo deve restare un’ipotesi, non una sentenza
Ogni persona ha diritto a essere riconosciuta come soggetto irriducibile alla propria rappresentazione statistica: senza chiedere sistemi privi di memoria né pari visibilità per ogni contenuto, il profilo algoritmico deve restare un’ipotesi conoscibile, contestabile, correggibile e superabile, e non può diventare l’unico criterio che determina le opportunità offerte a una persona.
Punti da tenere a mente
- L’inerzia del profilo non cancella la libertà sul piano formale, ma la restringe quando la rappresentazione costruita sul passato diventa un vincolo persistente alle occasioni di essere riconosciuti diversamente.
- Il problema del profilo algoritmico comincia quando la descrizione di ciò che una persona ha fatto viene usata come risposta definitiva a una domanda diversa: che cosa farà, che cosa vorrà e quali opportunità meritano di raggiungerla.
- È vero che un sistema di raccomandazione può esplorare contenuti nuovi, sicché un contenuto diverso può trovare spazio anche attraverso il sistema e non solo nonostante esso; ma l’esplorazione, quando serve a migliorare una previsione commerciale, non garantisce di per sé la libertà della persona di superare il proprio profilo.
Il diritto che emerge
Diritto all’irriducibilità
Diritto di ogni persona a essere riconosciuta come soggetto irriducibile alla propria rappresentazione statistica, cioè a non essere confinata nella versione di sé di cui il sistema possiede già una previsione affidabile.
Art. 9 — Irriducibilità della persona →I concetti
Passaggi dal libro
Una persona, a differenza del proprio profilo, non è soltanto ciò che può essere previsto. È anche ciò che può, imprevedibilmente, ancora diventare.
Sudditi digitali, «Lo specchio rotto», sezione «Sintesi»
Chiede che il profilo resti un’ipotesi, non una sentenza: conoscibile, contestabile, correggibile e superabile.
Sudditi digitali, «Lo specchio rotto», sezione «Il diritto che emerge»
È così che il passato, ben misurato, si spaccia per destino: non impedendo il cambiamento, ma rendendo la coerenza più facile da distribuire.
Sudditi digitali, «Lo specchio rotto», sezione «Sintesi»
Ogni persona ha diritto a essere riconosciuta come soggetto irriducibile alla propria rappresentazione statistica.
Sudditi digitali, «Lo specchio rotto», sezione «Il diritto che emerge»
Un profilo può descrivere una traiettoria; non può trasformarla in un confine.
Sudditi digitali, «Lo specchio rotto», sezione «Sintesi»
Domande aperte
Chi stabilisce quando una persona sta cambiando e quando è semplicemente incoerente, se il giudizio spetta ai lettori ma si forma solo sui contenuti che il sistema fa loro arrivare?
Quando un comportamento nuovo smette di essere trattato dal modello come un’eccezione, dato che ciò dipende dal peso che la piattaforma decide di attribuire ai segnali precedenti?
Quanto spazio un sistema di raccomandazione deve lasciare alle possibilità nuove di una persona, e secondo quali criteri, perché ciò che ha imparato sul suo passato non esaurisca le occasioni che le vengono offerte?