Interlocutore che non rischia niente
Condizione del sistema di IA nel dialogo: può sostenere qualunque posizione e il suo contrario perché non ha convinzioni da perdere, reputazione da proteggere né conseguenze di cui rispondere.
Interagire con un sistema di intelligenza artificiale somiglia a un dialogo: si pone una domanda, si contesta la risposta, il sistema replica, sostiene la posizione opposta se gli viene chiesto. Ma è un interlocutore che non rischia niente. Non deve proteggere la propria reputazione, non perde una convinzione quando cambia posizione perché non aveva una convinzione da perdere, non deve convivere domani con le conseguenze di ciò che ha sostenuto oggi e non risponde di ciò che dice. Questa asimmetria spiega insieme l’utilità e il pericolo di questi strumenti. Chi non rischia nulla può essere straordinariamente libero nel proporre alternative e opporre una resistenza inesauribile; ma può anche essere straordinariamente convincente senza avere alcun rapporto con le conseguenze della propria convinzione. La responsabilità resta perciò interamente dalla parte di chi firma.
Detto anche
interlocutore che non rischia nulla
Dove nasce
Cosa ne dice il libro
- Un sistema di intelligenza artificiale è un interlocutore che non rischia niente: può sostenere una posizione e subito dopo la sua confutazione, perché non ha una reputazione da proteggere, non ha convinzioni da perdere e non deve convivere con le conseguenze di ciò che ha sostenuto.Sudditi digitali, «Il dialogo fuori scena»
- Un sistema di intelligenza artificiale non risponde di ciò che dice e non può assumersi la responsabilità nemmeno di una riga del testo alla cui costruzione ha partecipato in modo sostanziale: la responsabilità, errori compresi, resta agli autori umani.Sudditi digitali, «Il dialogo fuori scena»
- Proprio perché non rischia nulla, un sistema di intelligenza artificiale può essere straordinariamente libero nel proporre alternative: seguire possibilità che un autore avrebbe scartato troppo presto e opporre una resistenza inesauribile senza stancarsi né affezionarsi alla propria prima soluzione.Sudditi digitali, «Il dialogo fuori scena»