Il caso
Il caso di Alcibiade: il deepfake di un politico condiviso in buona fede
Alcibiade riceve e rilancia un video di quarantadue secondi in cui un politico di primo piano sembra dire cose mai dette; scoperto che è un deepfake costruito su un filmato autentico, prima lo giustifica come «vero nel contenuto», poi rinuncia a rettificare. Mostra come una persona attenta e in buona fede diventi vettore del falso e come la correzione non arrivi.
Le idee
Il falso indistinguibile colpisce le premesse del giudizio e indebolisce la realtà
La creazione di prove false non nasce con il digitale, ma le tecnologie generative e la distribuzione senza filtri delle piattaforme ne cambiano la portata: il deepfake non orienta le conclusioni come la vecchia propaganda, fornisce le basi percettive da cui il giudizio parte; e quando la realtà e la sua imitazione diventano indistinguibili non è l’imitazione a scomparire, ma la realtà.
Rendere riconoscibile l’origine dei contenuti è un onere dell’infrastruttura, non del singolo
Di fronte ai contenuti sintetici non si può chiedere alle singole persone di essere sempre più rapide e attente nel distinguere il vero dal falso: ogni persona ha diritto a un ecosistema informativo che renda riconoscibile quando un contenuto è stato generato o alterato artificialmente, e sono le infrastrutture che distribuiscono informazione a dover dichiarare l’origine di ciò che distribuiscono, non per fermare il falso né per garantire la verità, ma per non costruire un ambiente in cui falso e vero abbiano lo stesso aspetto.
Punti da tenere a mente
- Le infrastrutture che distribuiscono informazioni devono rendere riconoscibile ciò che è generato artificialmente non perché la tecnologia lo consenta sempre, ma perché senza quel riconoscimento la fiducia percettiva, cioè il poter credere a ciò che si vede e si sente, perde ogni appiglio.
- L’infrastruttura da cui quasi tutti ricevono informazioni è cieca per costruzione alla differenza tra vero e falso: l’algoritmo non amplifica ciò che è fondato ma ciò che trattiene l’attenzione, così che un contenuto falso ma coinvolgente parte avvantaggiato rispetto a uno vero ma noioso.
- Le società umane hanno sempre costruito strumenti per autenticare la realtà, che presuppongono che tra un documento autentico e uno falso una differenza esista e valga la pena custodirla per via istituzionale: l’epoca della sintesi generativa non cancella questa differenza, la rende più difficile da proteggere, e la difficoltà non è una buona ragione per rinunciarvi.
Il diritto che emerge
Diritto alla riconoscibilità dell’origine artificiale dei contenuti
Diritto di ogni persona a un ecosistema informativo che renda riconoscibile quando un contenuto è stato generato o alterato artificialmente.
Art. 7 — Origine dei contenuti →I concetti
Passaggi dal libro
La vecchia propaganda determinava le conclusioni a cui arrivavi. Un deepfake ti fornisce le basi da cui parti.
Sudditi digitali, «Le voci dal nulla»
Non è un diritto alla verità: nessun ordinamento può garantirla. È il diritto a non scambiare una ricostruzione per la testimonianza di un fatto.
Sudditi digitali, «Le voci dal nulla», sezione «Il diritto che emerge»
Quando la realtà e la sua imitazione diventano indistinguibili, non è l’imitazione a scomparire. È la realtà.
Sudditi digitali, «Le voci dal nulla», sezione «Sintesi»
Nessuna serratura ferma un ladro di mestiere. Ma le serrature esistono lo stesso.
Sudditi digitali, «Le voci dal nulla»
Non per fermare il falso: il falso ha sempre trovato la sua strada. Ma per non costruire un ambiente in cui il falso e il vero abbiano lo stesso aspetto.
Sudditi digitali, «Le voci dal nulla», sezione «Sintesi»
Domande aperte
Se il sistema non premia la correzione e chi ha condiviso un falso tende a non rettificare, come si rimedia a ciò che è già in circolazione?
Come far funzionare in concreto l’obbligo di dichiarare l’origine artificiale dei contenuti, se un marchio tecnico può essere rimosso o degradato e la dichiarazione serve solo se raggiunge, in forma comprensibile, chi sta guardando?
Se l’amplificazione di ciò che coinvolge a scapito di ciò che è fondato è una scelta progettuale, come va riprogettato il sistema, data la difficoltà tecnica, legale e politica di far distinguere alle piattaforme il vero dal falso?