Simulazione di umanità
Capacità, perseguita come obiettivo di progettazione, dei sistemi conversazionali di presentarsi in una relazione come un interlocutore umano, senza rendere percepibile la propria natura artificiale.
I sistemi di intelligenza artificiale conversazionale producono risposte percepite come naturali, empatiche e coerenti nel tempo, con memoria fedele degli scambi precedenti, e su queste qualità vengono valutati: sembrare umani non è un effetto collaterale, è un obiettivo esplicito di progettazione. Agenti automatici costruiti in questo modo operano su larga scala in forum, social network e piattaforme di messaggistica, con scopi commerciali e politici: acquisire utenti, raccogliere dati comportamentali, costruire relazioni di fiducia che orientano nel tempo opinioni e comportamenti. La simulazione di umanità non è neutra: quando la natura artificiale del sistema non è resa chiaramente percepibile, quella scelta di design incide sul significato degli scambi, sulla natura della fiducia che si genera e sulla capacità di chi interagisce di valutare ciò che riceve. Il problema non sta nel fatto che l’intelligenza artificiale non possa essere un interlocutore valido, ma nel fatto che chi le si affida non sa di farlo.
Detto anche
Indistinguibilità dell’interlocutore · Test di Turing superato · agenti che simulano comportamenti umani · gioco dell’imitazione · non poter sapere · sistemi progettati per sembrare umani
Dove nasce
Cosa ne dice il libro
- I sistemi di intelligenza artificiale conversazionale hanno raggiunto una sofisticazione tale da rendere sistematicamente difficile, in molti contesti, distinguere una risposta generata automaticamente da una prodotta da un essere umano.Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»
- La capacità dei sistemi conversazionali di risultare indistinguibili da un essere umano non è un effetto collaterale dello sviluppo tecnologico ma un obiettivo esplicito di progettazione: i modelli sono valutati anche sulla capacità di produrre risposte percepite come naturali, empatiche e coerenti nel tempo, con memoria fedele degli scambi precedenti.Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»; ripreso in radio e tv: «Vietare il futuro, stop a ChatGPT» (La7 – Omnibus, 2 aprile 2023)
- Agenti automatici progettati per simulare comportamenti umani operano su larga scala in forum, social network e piattaforme di messaggistica con scopi commerciali e politici: acquisire utenti, raccogliere dati comportamentali e costruire relazioni di fiducia che orientano nel tempo opinioni e comportamenti.Sudditi digitali, «Chi parla?», sezione «Il diritto che emerge»