Diritto a un’alternativa umana nelle decisioni rilevanti
Diritto di ogni persona a che nessun algoritmo sia l'unico arbitro di scelte che possono cambiarle la vita, e a sapere chi, dietro il sistema, risponde della decisione.
È il diritto che emerge dalla frattura tra la persona e la sua rappresentazione algoritmica, tra il giudizio e il suo simulacro, tra la responsabilità e il suo fantasma. Afferma che quando una decisione può incidere concretamente sulla vita di qualcuno – la concessione di un mutuo, la selezione per un lavoro, l'accesso a un sussidio – deve poter essere riesaminata da un essere umano competente, capace di comprenderla, spiegarla e assumersene la responsabilità. Comprende il diritto a non essere giudicati soltanto da un sistema che valuta una rappresentazione della persona costruita secondo criteri ignoti, e quello di sapere chi risponde della decisione. Non si fonda sull'idea che gli algoritmi sbaglino sempre, perché a volte sbagliano meno degli esseri umani, né chiede di fermare l'automazione. Si fonda sul fatto che essere riconosciuti, visti, ascoltati e giudicati da qualcuno che risponde di ciò che decide non è un'inefficienza da correggere, ma una conquista civile a cui non si può derogare.
Detto anche
Diritto a una alternativa umana nelle decisioni rilevanti · L’umano dove conta · alternativa umana nelle decisioni rilevanti · diritto a essere giudicati da qualcuno che risponde · diritto a un'alternativa umana · diritto al riesame umano
Nella Carta
Art. 3 — Alternativa umana nelle decisioni rilevanti →
Dove nasce
Cosa ne dice il libro
- Il riconoscimento, in senso pieno, è un atto umano: significa guardare qualcuno e dirgli che lo si vede, che si sa chi è e che si risponde di ciò che si decide su di lui.Sudditi digitali, «Il giudice di pietra»
- Il diritto europeo riconosce già garanzie contro le decisioni unicamente automatizzate e impone spiegazioni chiare e significative, ma tra queste garanzie e ciò che le persone ricevono in concreto resta una distanza: troppo spesso la supervisione umana prevista si riduce a una conferma formale.Sudditi digitali, «Il giudice di pietra»
- Quando una decisione può incidere concretamente sulla vita di una persona, come la concessione di un mutuo, la selezione per un lavoro o l'accesso a un sussidio, deve poter essere riesaminata da un essere umano competente, capace di comprenderla, spiegarla e assumersene la responsabilità.Sudditi digitali, «Il giudice di pietra», sezione «Il diritto che emerge»