Quando dimentichiamo che stiamo parlando con una macchina

In breve

Conversando a lungo con un’IA non dimentichiamo davvero che stiamo interagendo con una macchina, ma questa consapevolezza può progressivamente smettere di stare in primo piano. La naturalezza e la continuità dello scambio possono portarci a vivere psicologicamente la conversazione come una relazione tra persone, modificando non soltanto il modo in cui parliamo all’IA, ma anche il modo in cui ascoltiamo ciò che ci dice. Familiarità e fiducia possono così trasferirsi dalla relazione percepita ai contenuti della conversazione. Per questo è importante riportare periodicamente in primo piano ciò che sappiamo dell’IA e che, proprio mentre conversiamo con naturalezza, rischiamo di lasciare sullo sfondo.

La conversazione con l’IA diventa così naturale che il contesto finisce sullo sfondo. E con esso rischiano di cambiare anche i criteri con cui valutiamo ciò che ci viene detto.

So benissimo che sto parlando con una macchina. Il problema è che, dopo un po’, non mi comporto più come se lo sapessi.

Non credo che dentro ChatGPT ci sia una persona. Non penso che dall’altra parte dello schermo ci sia qualcuno che mi ascolta, riflette su quello che dico e poi decide che cosa rispondermi. Se qualcuno me lo chiedesse, saprei perfettamente distinguere una conversazione con un’intelligenza artificiale da una conversazione con un essere umano.

Eppure, quando la conversazione si prolunga, succede qualcosa di interessante.

Non dimentico che sto interagendo con una macchina. Piuttosto, questa consapevolezza smette progressivamente di stare in primo piano.

Ed è forse proprio questo il problema.

All’inizio c’è uno strumento

Quando iniziamo a utilizzare un sistema di IA, il contesto è abbastanza chiaro.

Abbiamo qualcosa da fare e utilizziamo uno strumento per farlo.

Chiediamo un’informazione. Facciamo analizzare un testo. Cerchiamo un errore. Chiediamo una spiegazione. Facciamo generare delle alternative. Vogliamo verificare un ragionamento.

Il rapporto è chiaramente strumentale.

Io faccio una richiesta, la macchina produce una risposta.

Ma i sistemi di IA generativa hanno una caratteristica particolare rispetto a molti altri strumenti che utilizziamo: conversano.

E conversano molto bene.

Possiamo obiettare, chiedere una precisazione, tornare indietro, correggere la domanda, contestare la risposta. L’IA riprende quello che abbiamo detto, tiene conto delle nostre obiezioni, modifica una formulazione, collega ciò che stiamo dicendo con quanto era emerso poco prima.

Dopo alcuni scambi non stiamo più semplicemente chiedendo prestazioni a uno strumento.

Stiamo conversando.

La conversazione cambia lentamente il contesto

Il passaggio è così naturale che difficilmente ce ne accorgiamo.

Cominciamo a dire:

«Non hai capito quello che intendo.»

«No, su questo non sono d’accordo con te.»

«Adesso ci siamo.»

«Prima mi avevi detto un’altra cosa.»

«Ti ricordi da dove eravamo partiti?»

«Questa volta mi stai dando troppo ragione.»

«Sai come la penso su questo.»

Sono espressioni assolutamente normali durante una conversazione con un’IA. Le uso anch’io.

Ma sono interessanti perché appartengono al linguaggio con cui normalmente descriviamo una relazione tra interlocutori.

Non diciamo più soltanto che il sistema ha prodotto un output sbagliato. Diciamo che non ci ha capiti.

Non diciamo soltanto che ha generato una risposta coerente con le informazioni precedenti. Diciamo che si ricorda.

Non diciamo che ha adattato statisticamente la risposta al contesto disponibile. Diciamo che ormai ci conosce.

Naturalmente possiamo sapere benissimo che stiamo usando delle metafore.

Ma intanto il contesto psicologico dell’interazione sta cambiando.

Da strumento a interlocutore

Una lunga conversazione costruisce qualcosa che assomiglia sempre più alla storia di una relazione.

Ci sono cose dette prima che non occorre ripetere. Ci sono incomprensioni che abbiamo chiarito. Ci sono argomenti ai quali possiamo tornare. Ci sono formulazioni che l’IA riprende. Può esserci persino un’ironia comprensibile soltanto alla luce degli scambi precedenti.

Si crea continuità.

E la continuità genera familiarità.

A quel punto l’IA non è più soltanto lo strumento al quale abbiamo chiesto qualcosa mezz’ora prima. È diventata, almeno dal nostro punto di vista, un interlocutore con il quale stiamo portando avanti un discorso.

Possiamo spingerci ancora oltre e parlare di una «relazione», purché le virgolette rimangano ben visibili.

Non abbiamo bisogno di stabilire qui se quella con un’IA sia una relazione nel senso proprio del termine. È una questione diversa e molto più complessa.

Ci interessa qualcosa di più semplice: noi possiamo cominciare a viverla psicologicamente come una relazione tra persone in carne e ossa.

Sappiamo che dall’altra parte non c’è una persona, ma questa consapevolezza passa progressivamente sullo sfondo. Cominciamo così a comportarci nella conversazione come ci comporteremmo con un interlocutore umano.

Ed è sufficiente perché possano cambiare non soltanto le parole che usiamo, ma anche le aspettative, la fiducia e il valore che attribuiamo a ciò che ci viene detto.

Cambia il modo in cui ascoltiamo

Questo slittamento sarebbe già interessante dal punto di vista psicologico. Ma ha una conseguenza che mi interessa ancora di più.

Non cambia soltanto il modo in cui parliamo all’IA. Può cambiare il modo in cui ascoltiamo ciò che l’IA ci dice.

Quando interrogo uno strumento, il risultato che ottengo rimane abbastanza chiaramente il prodotto di quello strumento.

Posso controllarlo, confrontarlo, chiedermi se sia corretto.

Ma che cosa succede quando lo strumento è diventato progressivamente un interlocutore?

E quando quell’interlocutore mi segue da decine di scambi, sembra capire ciò che intendo, conosce il contesto del mio ragionamento, riprende le mie idee, le mette in discussione, mi propone alternative e qualche volta mi fa vedere qualcosa che non avevo visto?

Si costruisce inevitabilmente una qualche forma di familiarità.

E con la familiarità può crescere la fiducia.

Il passaggio delicato avviene quando questa fiducia nella conversazione comincia a trasferirsi, quasi senza che ce ne accorgiamo, alla fiducia in ciò che viene detto.

Ne abbiamo già incontrato un altro pezzo parlando della fluidità linguistica dell’IA: una risposta ben costruita, sicura e convincente tende a sembrarci più affidabile.

Ma qui c’è qualcosa in più.

Non c’è soltanto una risposta convincente.

C’è qualcuno con cui stiamo parlando da un po’.

O, almeno, qualcosa che durante la conversazione abbiamo progressivamente cominciato a trattare come se lo fosse.

La continuità della conversazione può così diventare una specie di accumulatore di fiducia.

E proprio quando la conversazione ci sembra più naturale potremmo avere meno presente la domanda che all’inizio ci veniva spontanea:

posso fidarmi di quello che questa macchina mi sta dicendo?

Non dimentichiamo che…

A questo punto può essere utile riportare in primo piano alcune cose che abbiamo già incontrato altre volte parlando di intelligenza artificiale.

Non per ripeterne qui le spiegazioni, ma proprio come promemoria.

Non dimentichiamo che l’IA non ha intenzioni proprie.

Non dimentichiamo che non ha propri scopi nel senso umano del termine.

Non dimentichiamo che produrre un linguaggio perfettamente naturale non significa necessariamente comprendere come comprende una persona.

Non dimentichiamo che la fluidità linguistica non garantisce l’affidabilità di ciò che viene detto.

Non dimentichiamo che una risposta falsa può essere formulata con la stessa sicurezza e naturalezza di una risposta corretta.

Non dimentichiamo che l’IA non è un esperto responsabile di ciò che afferma.

Non dimentichiamo che il suo «ricordare» non è il nostro ricordare, il suo «capire» non è necessariamente il nostro capire, il suo essere un interlocutore non ne fa automaticamente un interlocutore umano.

Sono tutte cose che possiamo sapere perfettamente.

Il punto di questo articolo è un altro.

Possiamo sapere tutte queste cose e, durante una lunga conversazione, smettere progressivamente di averle presenti.

Non è un fenomeno nato con ChatGPT

Naturalmente non siamo i primi ad accorgerci che gli esseri umani possono attribuire caratteristiche umane alle macchine con cui interagiscono.

Già negli anni Sessanta le reazioni degli utenti a ELIZA, un programma capace di simulare in modo molto rudimentale una conversazione, avevano mostrato quanto poco potesse bastare perché una persona cominciasse ad attribuire comprensione a una macchina.

Successivamente sono stati studiati fenomeni indicati con espressioni come ELIZA effect, anthropomorphism, media equation, Computers Are Social Actors e social presence.

Sono soltanto coordinate. Ognuna meriterebbe un approfondimento e alcune di esse potranno essere utili per capire meglio che cosa accade oggi.

Perché nel frattempo qualcosa è cambiato.

Non stiamo più interagendo con ELIZA.

Possiamo sostenere con un sistema di IA conversazioni lunghe, articolate, contestualizzate, apparentemente coerenti e sorprendentemente naturali.

Ed è proprio questa naturalezza a rendere più facile perdere di vista il contesto nel quale la conversazione sta realmente avvenendo.

Non necessariamente dimentichiamo che dall’altra parte c’è una macchina.

Semplicemente, mentre conversiamo, questa consapevolezza può smettere di stare in primo piano e modificare il significato che diamo a quelle affermazioni.

E forse è proprio quando non sentiamo più il bisogno di ricordarcelo che diventa più importante farlo. Perché le stesse parole non hanno per noi lo stesso significato quando le leggiamo come l’output di una macchina o quando le ascoltiamo come le parole di qualcuno che ci conosce, ci comprende e di cui abbiamo imparato a fidarci.