Il caso
La tesi del libro era definita prima di usare l’IA
La tesi, l’immagine del cittadino che torna suddito, la forma dialogica e i casi di partenza erano nati da settimane di discussione tra i due autori e da un lavoro di Epifani sulla sovranità cognitiva, prima dell’uso dei sistemi generativi: c’erano i problemi generativi, non ancora il libro.
Le idee
Nel lavoro intellettuale l’IA propone e obietta, ma decisione e responsabilità restano umane
Nel lavoro intellettuale l’intelligenza artificiale può partecipare in modo sostanziale e vale soprattutto come generatore di attrito, ma è un interlocutore che non rischia nulla e non risponde di ciò che dice, e opera secondo criteri che chi la usa non può riscrivere: per questo l’autore non è sovrano dello strumento e deve restare sovrano del processo, tenendo fuori dalla macchina la decisione finale e assumendosi per intero la responsabilità del risultato.
Punti da tenere a mente
- Proprio perché non rischia nulla, un sistema di intelligenza artificiale può essere straordinariamente convincente senza avere alcun rapporto con le conseguenze della propria convinzione: è in questo che sta il suo pericolo.
- Proprio perché non rischia nulla, un sistema di intelligenza artificiale può essere straordinariamente libero nel proporre alternative: seguire possibilità che un autore avrebbe scartato troppo presto e opporre una resistenza inesauribile senza stancarsi né affezionarsi alla propria prima soluzione.
- Al rischio che l’IA restituisca ciò che si vuole sentirsi dire si può rispondere introducendo attrito: cercare una seconda lettura, tornare alla fonte, chiedere l’obiezione più forte anziché la conferma più comoda, lasciare in piedi un dubbio non sciolto e ricordare che il sistema non è il luogo nel quale si chiude la decisione.
I concetti
Passaggi dal libro
La fluidità di un enunciato non ne certifica la verità. La sicurezza con cui una tesi viene formulata non ne misura la solidità.
Sudditi digitali, «Il dialogo fuori scena»
Il libro resta nostro. Anche gli errori.
Sudditi digitali, «Il dialogo fuori scena»
È un interlocutore che non rischia niente.
Sudditi digitali, «Il dialogo fuori scena»
una risposta ben argomentata non è, solo per questo, una buona risposta.
Sudditi digitali, «Il dialogo fuori scena»
Non eravamo pienamente sovrani degli strumenti che stavamo utilizzando. Abbiamo cercato di restare sovrani del processo nel quale li utilizzavamo.
Sudditi digitali, «Il dialogo fuori scena»
Domande aperte
Come distinguere una formulazione dell’IA che convince perché ha chiarito davvero un problema da una che convince perché ha riconosciuto la direzione in cui si voleva già andare, se non esiste un test capace di separare le due cose?
Restare sovrani del processo in cui si usano i sistemi di IA basta, su scala sociale, a garantire la sovranità cognitiva, o servono garanzie collettive che nessun comportamento individuale può sostituire?