Sovranità del processo
Controllo che chi usa sistemi di IA può mantenere sul processo in cui li impiega, pur non essendo sovrano degli strumenti di cui non conosce i criteri interni.
Chi usa sistemi di intelligenza artificiale non ne conosce pienamente i criteri interni: può orientarli con materiali e istruzioni, contestarne l’esito, chiedere una nuova versione, ma non riscrivere il criterio con cui la risposta viene costruita. Non è quindi pienamente sovrano dello strumento, e sarebbe troppo facile credersi tale solo perché si può sempre cancellare una risposta. Può però cercare di restare sovrano del processo nel quale lo utilizza. Questo significa non confondere una proposta con una decisione, non accettare la fluidità come prova, non trasformare il sistema in un’autorità solo perché risponde con sicurezza, conservare la possibilità di confrontare, contestare, verificare, scartare. Significa soprattutto tenere fuori dalla macchina l’ultima domanda: è davvero questo ciò che si vuole sostenere? È un criterio valido alla scala di un lavoro individuale, che probabilmente non basta su scala sociale.
Detto anche
restare sovrani del processo
Dove nasce
Cosa ne dice il libro
- Al rischio che l’IA restituisca ciò che si vuole sentirsi dire si può rispondere introducendo attrito: cercare una seconda lettura, tornare alla fonte, chiedere l’obiezione più forte anziché la conferma più comoda, lasciare in piedi un dubbio non sciolto e ricordare che il sistema non è il luogo nel quale si chiude la decisione.Sudditi digitali, «Il dialogo fuori scena»
- Poter cancellare una risposta non equivale a esercitare una perfetta sovranità cognitiva: chi usa sistemi di intelligenza artificiale non è pienamente sovrano degli strumenti, ma può cercare di restare sovrano del processo nel quale li utilizza.Sudditi digitali, «Il dialogo fuori scena»
- Restare sovrani del processo in cui si usa l’IA significa non confondere una proposta con una decisione, non accettare la fluidità come prova, non trasformare il sistema in un’autorità solo perché risponde con sicurezza, conservare la possibilità di confrontare, contestare, verificare e scartare, e soprattutto tenere fuori dalla macchina la domanda finale su che cosa si voglia davvero sostenere.Sudditi digitali, «Il dialogo fuori scena»