Articolo 3 di 10

Alternativa umana nelle decisioni rilevanti

Ogni persona ha diritto a che le decisioni automatizzate possano essere riesaminate da un essere umano che le comprende, le spiega e ne risponde. Chi progetta, sceglie o approva un sistema decisionale automatizzato risponde degli effetti che quel sistema produce. Nessun algoritmo può essere l’unico arbitro di scelte che hanno un impatto significativo sulla vita di una persona.

Perché:

• Il riconoscimento, in senso pieno, è un atto umano: significa guardare qualcuno e dirgli che lo si vede, che si sa chi è e che si risponde di ciò che si decide su di lui.
• Il diritto europeo riconosce già garanzie contro le decisioni unicamente automatizzate e impone spiegazioni chiare e significative, ma tra queste garanzie e ciò che le persone ricevono in concreto resta una distanza: troppo spesso la supervisione umana prevista si riduce a una conferma formale.
• Quando una decisione può incidere concretamente sulla vita di una persona, come la concessione di un mutuo, la selezione per un lavoro o l'accesso a un sussidio, deve poter essere riesaminata da un essere umano competente, capace di comprenderla, spiegarla e assumersene la responsabilità.