Rappresentazione algoritmica della persona
Modello che il sistema costruisce misurando nel tempo i comportamenti di una persona e le reazioni che suscita, e che usa come strumento per prevederne il comportamento futuro e decidere a chi mostrarla.
Il sistema non inventa la versione di sé che una persona mostra in pubblico: quella l’ha costruita la persona, e il pubblico ha scelto di seguirla. Ma dopo averla misurata il sistema la modellizza, ne costruisce una rappresentazione algoritmica e comincia a usarla come strumento previsionale. Opera in due direzioni: quando la persona legge, decide quali voci farle incontrare; quando pubblica, decide a chi far incontrare la sua voce, avendo imparato quale tono, quali contenuti e quale versione di lei ottiene più reazioni. La specificità algoritmica sta qui: trasformare la relazione osservata nel tempo fra un autore, la sua identità pubblica e il pubblico che vi ha reagito in una previsione su ciò che è più probabile funzioni ancora. Da quel momento il passato non descrive soltanto ciò che è stato fatto, ma comincia a orientare dove sarà più probabile arrivare. Il profilo si aggiorna, ma con dati che dipendono dalle reazioni a ciò che esso stesso ha fatto mostrare, sicché un contenuto diverso può essere trattato come un’eccezione anziché come il segnale di un cambiamento.
Detto anche
Rappresentazione algoritmica della persona (profilo) · Specchio rotto (specchio algoritmico) · fotografia del passato presentata come presente · il passato che si spaccia per destino · profilo · profilo algoritmico
Dove nasce
Cosa ne dice il libro
- Un sistema automatico di valutazione non giudica la persona e la sua storia reale, ma una rappresentazione di lei costruita dai suoi dati e pesata secondo criteri che l'interessato non conosce e non può vedere.Sudditi digitali, «Il giudice di pietra»
- Chi è valutato attraverso un profilo algoritmico non viene interpellato: non può vedere il profilo né contestarlo indicando ciò che è falso, ciò che non lo rappresenta o ciò che era un'eccezione.Sudditi digitali, «Il giudice di pietra»
- Le decisioni automatiche sbagliano in un modo più sottile e più difficile da correggere rispetto all'essere umano distratto o in malafede: non riconoscono l'eccezione, non pesano la circostanza, non ascoltano.Sudditi digitali, «Il giudice di pietra», sezione «Il diritto che emerge»