Diritto all’intelligibilità delle decisioni algoritmiche
Diritto di ogni persona a ricevere una spiegazione comprensibile e verificabile di ogni decisione automatizzata o algoritmicamente assistita che incide significativamente sulla sua vita, così da poterla capire, valutare ed eventualmente contestare.
La motivazione delle decisioni è una delle garanzie con cui il diritto rende il potere comprensibile e contestabile, e l’uso di un algoritmo non rende questa esigenza meno importante. Il diritto all’intelligibilità chiede che, quando una decisione automatizzata incide significativamente sulla vita di una persona, la spiegazione resti dovuta: non il solo risultato né un elenco di sottopunteggi, ma una spiegazione del caso specifico, nei termini, nel linguaggio e nel livello di dettaglio necessari a chi la riceve. Per questo la spiegabilità va progettata come parte del sistema e non aggiunta come documentazione accessoria: produrre una decisione significa anche fornire una spiegazione verificabile di quella decisione. Chi adotta questi sistemi risponde non solo della loro correttezza tecnica, ma della loro intelligibilità per i destinatari e della possibilità concreta, per chi ne subisce le decisioni, di valutarne la giustizia. Il diritto europeo ha cominciato a riconoscere questa esigenza con il GDPR e l’AI Act, ma stabilire che una spiegazione è dovuta non significa ancora sapere come produrla.
Detto anche
diritto a una spiegazione comprensibile · diritto alla spiegazione · spiegazione dovuta
Nella Carta
Art. 10 — Intelligibilità delle decisioni →
Dove nasce
Cosa ne dice il libro
- La motivazione delle decisioni è una delle garanzie con cui il diritto rende il potere comprensibile e contestabile, e l’uso di un algoritmo da parte di chi decide non rende questa esigenza meno importante.Sudditi digitali, «La graduatoria», sezione «Il diritto che emerge»
- I diritti delle persone non devono poter essere limitati da una macchina: è la macchina che va assoggettata ai diritti delle persone.Sudditi digitali, «La graduatoria»
- Ogni persona ha diritto a ricevere una spiegazione comprensibile per ogni decisione automatizzata o algoritmicamente assistita che incide significativamente sulla sua vita, nei termini, nel linguaggio e nel livello di dettaglio necessari perché possa capirla, valutarla ed eventualmente contestarla.Sudditi digitali, «La graduatoria», sezione «Il diritto che emerge»