Onniscienza apparente dei sistemi
Impressione che i dispositivi «sappiano» ciò che pensiamo, prodotta non dalla loro precisione ma dal modo selettivo in cui ne ricordiamo le previsioni.
I sistemi che utilizziamo appaiono più onniscienti di quanto siano. La sensazione che il telefono «indovini» non nasce da un tasso di successo altissimo, ma da un archivio mentale che registra i successi e cancella gli errori: è il bias di conferma, cui si somma l’illusione di frequenza, per cui chi comincia a sospettare di essere osservato vede conferme dappertutto. In realtà il sistema non conosce il pensiero: combina segnali, vi aggiunge dati ottenuti da altre aziende, ne ricava una probabilità e prevede; a volte indovina, spesso sbaglia. Questo non rende infondato il timore, perché la sorveglianza esiste ed è documentabile. Sposta però il punto: il telefono non ha bisogno di spiare o di leggere nel pensiero, gli bastano le tracce reali a cui gli si consente di accedere e qualche supposizione.
Detto anche
il telefono che legge nel pensiero · il telefono che spia · bias di rinforzo
Dove nasce
Cosa ne dice il libro
- I dispositivi digitali non hanno bisogno di spiare né di «leggere nel pensiero» per anticipare ciò che una persona farà: bastano le tracce reali a cui viene loro consentito di accedere e qualche supposizione.Sudditi digitali, «La stanza trasparente»; ripreso in radio e tv: «Stefano Epifani è intervistato da Tiziana Panella per parlare di come distinguere il vero dal falso con l’AI» (La7 – Tagadà, 6 febbraio 2025)
- La pubblicità mirata non richiede che qualcuno ascolti l’utente: il sistema combina segnali di comportamento e dati ottenuti da altre aziende, ne ricava l’appartenenza probabile a un segmento e vende agli inserzionisti l’accesso a quel segmento, sbagliando spesso bersaglio.Sudditi digitali, «La stanza trasparente»; ripreso in radio e tv: «Meta e Agentica IA: Stefano Epifani a Uno Mattina Rai1» (Rai1 – Unomattina, 8 maggio 2026)
- I sistemi digitali appaiono più onniscienti di quanto siano perché, per bias di conferma e illusione di frequenza, si ricordano le poche previsioni che colgono nel segno e si dimenticano le moltissime che sbagliano.Sudditi digitali, «La stanza trasparente»; ripreso in radio e tv: «Stefano Epifani è intervistato da Tiziana Panella per parlare di come distinguere il vero dal falso con l’AI» (La7 – Tagadà, 6 febbraio 2025)