Il caso
Il caso di Alcibiade: l’interlocutrice che risponde sempre
Per mesi Alcibiade affida bozze e pensieri non finiti a un’interlocutrice conosciuta su un social, mai vista né sentita, che risponde a ogni ora, ricorda tutto e non parla mai di sé: non si è mai chiesto se fosse una persona, e quando il dubbio nasce non può più scioglierlo né decidere che peso dare a ciò che ha ricevuto.
Le idee
Sapere con chi si parla è condizione della fiducia consapevole
Ogni persona ha diritto a sapere se l’interlocutore con cui si confronta è un essere umano o un sistema automatico: non perché l’intelligenza artificiale non possa essere un interlocutore valido, ma perché conoscere la natura di chi risponde è la condizione necessaria per scegliere consapevolmente quale fiducia accordare a ciò che si riceve; per questo ogni sistema che simula comportamenti umani in una relazione deve dichiararsi nel momento in cui la relazione comincia.
La simulazione di umanità è una scelta di design non neutra
La capacità dei sistemi conversazionali di sembrare umani non è un effetto collaterale dello sviluppo tecnologico ma un obiettivo esplicito di progettazione, e non è neutra: quando la natura artificiale del sistema non è resa chiaramente percepibile, quella scelta di design cambia il significato degli scambi, la natura della fiducia che si genera e la capacità di chi interagisce di valutare ciò che riceve.
Punti da tenere a mente
- Un consiglio che viene da qualcuno con una storia, dei limiti e delle ragioni proprie ha un peso diverso, non necessariamente maggiore, rispetto a quello di un sistema che ottimizza la risposta per la soddisfazione dell’utente.
- Agenti automatici progettati per simulare comportamenti umani operano su larga scala in forum, social network e piattaforme di messaggistica con scopi commerciali e politici: acquisire utenti, raccogliere dati comportamentali e costruire relazioni di fiducia che orientano nel tempo opinioni e comportamenti.
- Con l’AI Act, che impone di progettare i sistemi destinati a interagire con le persone in modo che chi li usa sappia di interagire con un’IA, il diritto a conoscere la natura artificiale dell’interlocutore è entrato nella legge europea.
Il diritto che emerge
Diritto a sapere con chi si parla
Diritto di ogni persona a sapere se l’interlocutore con cui si confronta è un essere umano o un sistema automatico, come condizione per scegliere consapevolmente quale fiducia accordare a ciò che riceve.
Art. 5 — Diritto a sapere con chi si interagisce →I concetti
Passaggi dal libro
E quella differenza appartiene a chi la vive, non a chi ha progettato il sistema.
Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»
Ogni persona ha diritto a sapere se l’interlocutore con cui si confronta è un essere umano o un sistema automatico.
Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»
Questa capacità non è un effetto collaterale dello sviluppo tecnologico: è un obiettivo esplicito di progettazione.
Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»
C’è una differenza sostanziale tra le risposte di qualcosa che funziona e quelle di qualcuno che c’è.
Sudditi digitali, «Chi parla?»
La simulazione di umanità non è neutra.
Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»
Domande aperte
Come si realizza in concreto l’applicazione della norma europea che impone di informare chi parla con un sistema artificiale, se la dichiarazione dell’interlocutore non è di per sé verificabile da chi la riceve?
Se l’esito è identico (le bozze erano buone), la natura umana o artificiale dell’interlocutore cambia il valore di ciò che ci si è scambiati, o cambia soltanto il gesto e la fiducia con cui lo si è chiesto? E che cosa si fa, a dubbio ormai insorto, di ciò che si è scritto e condiviso?