Articolo 9 di 10

Irriducibilità della persona

Ogni persona ha diritto a essere riconosciuta come soggetto irriducibile alla propria rappresentazione statistica. Nessun profilo algoritmico può diventare l’unico criterio che determina le opportunità che le vengono offerte. I comportamenti del passato descrivono ciò che una persona è stata: non possono determinare ciò che può diventare.

Perché:

• L’inerzia del profilo non cancella la libertà sul piano formale, ma la restringe quando la rappresentazione costruita sul passato diventa un vincolo persistente alle occasioni di essere riconosciuti diversamente.
• Non esiste un diritto al successo né alla stessa visibilità per ogni contenuto; esiste però il diritto a non essere confinati nella versione di sé di cui il sistema possiede già una previsione affidabile.
• Il diritto all’irriducibilità non chiede sistemi senza memoria né impone di ignorare i dati passati: chiede di non confondere ciò che il sistema sa del comportamento passato di una persona con tutto ciò che quella persona può essere o fare, e di non disincentivarne il divenire.