Presenza ingannevole (la falsa testimonianza sintetica)
Condizione in cui le informazioni arrivano ma non sono ciò che sembrano: un contenuto sintetico si presenta come testimonianza diretta di un fatto mai accaduto.
Si contrappone all’assenza, cioè alle informazioni che non arrivano o restano di fatto invisibili: qui l’informazione arriva, ma è una ricostruzione che ha l’aspetto di un fatto. Il deepfake non consegna un’opinione da discutere ma ciò che sembra la prova che qualcosa sia stato detto o fatto, e davanti a una testimonianza diretta non si soppesa: si registra. Fabbricare prove false non nasce con il digitale, ma le tecnologie generative ne rendono più facile la produzione e quasi impossibile il riconoscimento, con l’aggravante antropologica della difficoltà di valutare criticamente ciò che si vede «con i propri occhi». La differenza rispetto alla vecchia propaganda sta nel punto in cui agisce: quella determinava le conclusioni, questa fornisce le basi da cui si parte. Che il contenuto falso combaci con ciò che si ritiene plausibile o verosimile non cambia la sua natura: è stato mostrato come accaduto ciò che non è accaduto.
Detto anche
deepfake · falsa testimonianza · prova falsa sintetica · voci dal nulla
Dove nasce
Cosa ne dice il libro
- La creazione di prove false non nasce con il digitale: anche prima si fabbricavano prove e non soltanto interpretazioni, ma le tecnologie generative ne rendono più facile la produzione e quasi impossibile il riconoscimento.Sudditi digitali, «Le voci dal nulla», sezione «Il diritto che emerge»; ripreso in radio e tv: «Kate Middleton e la foto ritoccata: quale affidabilità delle fonti?» (Rai Radio 1, 15 marzo 2024); «Snapchat, DeepFake e Intelligenza Artificiale: intervista a Stefano Epifani» (Rai GR1, 22 aprile 2024)
- I contenuti generati artificialmente sfruttano un’aggravante antropologica: la difficoltà di valutare criticamente ciò che si vede con i propri occhi, perché davanti a quella che appare una testimonianza diretta non si soppesa, si registra.Sudditi digitali, «Le voci dal nulla», sezione «Il diritto che emerge»
- La vecchia propaganda provava a convincere, determinando le conclusioni a cui si arrivava; il deepfake fornisce invece le basi da cui si parte, mettendo davanti agli occhi la prova su cui un convincimento può appoggiarsi.Sudditi digitali, «Le voci dal nulla»