L’IA “pensa” come una persona?

In breve

Quando un’IA produce una risposta, un’argomentazione o una conclusione simile a quella di una persona, siamo facilmente portati a immaginare che anche i processi che le hanno generate siano simili. Ma uno stesso risultato può essere prodotto attraverso meccanismi profondamente differenti. Questo articolo usa il “pensiero” come una finestra sul funzionamento dell’IA: apre il cofano per mostrare che cosa accade quando un modello linguistico costruisce qualcosa che riconosciamo come un ragionamento e perché non dovremmo interpretare automaticamente quei processi attraverso il modello del pensiero umano. Capire questa differenza non serve soltanto a usare con maggiore precisione parole come “pensare”, “ragionare” o “comprendere”: aiuta anche a valutare meglio ciò che l’IA produce e la sua affidabilità.

---

Quando leggiamo una buona risposta prodotta da un’intelligenza artificiale, accade qualcosa di molto naturale: riconosciamo in quelle parole il risultato di operazioni che, se fossero compiute da un essere umano, chiameremmo pensiero. L’IA confronta, distingue, collega, inferisce, argomenta, individua contraddizioni, formula ipotesi, rivede una conclusione. A volte arriva allo stesso risultato al quale saremmo arrivati noi.

Ma che cosa sta succedendo davvero?

Le virgolette attorno a “pensa” nel titolo servono proprio a non anticipare la risposta. Non voglio partire né dall’affermazione che l’IA pensi come noi, né dalla conclusione opposta che non pensi affatto. Vorrei usare questa domanda per fare qualcosa di più concreto: guardare sotto il cofano e capire meglio che cosa accade quando una macchina produce qualcosa che a noi appare come il risultato di un pensiero.

Per trasparenza autoriale strutturo questo articolo nella forma in cui la conversazione con l’IA è avvenuta: domande mie (identificate e rifinite nella fase di brainstorming con ChatGPT) e risposte dell’IA.

L’articolo si chiude con due P.S., nei quali recupero alcune questioni emerse durante il brainstorming ma volutamente lasciate fuori dal corpo dell’articolo per mantenerlo focalizzato sul tema centrale.

Gianni domanda

Quando un essere umano e un’IA producono lo stesso risultato, che cosa ci permette di dire che entrambi hanno “pensato”?

ChatGPT risponde

Possiamo dire che entrambi hanno “pensato” perché osserviamo il risultato di qualcosa che, nel caso dell’essere umano, siamo abituati a chiamare pensiero. Se un essere umano e un’IA analizzano lo stesso problema e arrivano alla stessa conclusione attraverso un’argomentazione altrettanto articolata e coerente, non è irragionevole utilizzare la stessa parola per descrivere ciò che hanno fatto.

Il problema nasce un passaggio dopo.

Dal fatto che il prodotto sia lo stesso tendiamo a supporre che siano dello stesso tipo anche i processi che lo hanno generato.

È questa corrispondenza implicita che dobbiamo mettere in discussione.

Quando diciamo che un essere umano ha “pensato”, dietro quella parola collochiamo un insieme di processi cognitivi: conoscenze richiamate, rappresentazioni, memoria, inferenze, valutazioni, intenzioni, consapevolezza più o meno esplicita di ciò che sta facendo.

Quando diciamo che un’IA ha “pensato”, utilizziamo la stessa parola perché ciò che osserviamo può essere funzionalmente equivalente: anche l’IA confronta, collega, distingue, inferisce e arriva a una conclusione.

Ma la somiglianza — persino l’identità — del risultato non comporta l’identità dei meccanismi che lo hanno prodotto.

Possiamo dunque continuare, almeno provvisoriamente, a dire che entrambi hanno “pensato”. Le virgolette riferite all’IA servono proprio a ricordarci che la stessa parola non garantisce che stiamo parlando dello stesso processo.

Ed è questa la questione che ci interessa: che cosa c’è sotto ciò che, osservandolo dall’esterno, chiamiamo in entrambi i casi “pensiero”?

Per scoprirlo dobbiamo aprire il cofano dell’IA.

Gianni domanda

Che cosa succede realmente dentro un’IA quando fa qualcosa che, se lo facesse un essere umano, chiameremmo “pensare”?

ChatGPT risponde

Partiamo da una differenza apparentemente banale.

Un essere umano può pensare qualcosa e successivamente cercare le parole per esprimerlo. Naturalmente pensiero e linguaggio nell’essere umano sono profondamente intrecciati, e non sempre esiste prima un pensiero completamente formato e poi la sua traduzione in parole. Ma l’esperienza ci è familiare: possiamo avere un’intuizione, un dubbio, un’immagine, una convinzione e cercare successivamente il modo migliore per formularli.

Con un modello linguistico la situazione è diversa.

Un LLM riceve un contesto costituito da token — unità nelle quali il testo viene scomposto — e calcola, sulla base delle relazioni apprese durante l’addestramento e del contesto disponibile, quali continuazioni siano appropriate. Genera nuovi token e ciò che ha appena generato entra a sua volta nel contesto che condiziona ciò che verrà dopo.

Questa descrizione viene spesso riassunta dicendo che un modello linguistico “predice il token successivo”.

È corretto, ma può diventare fuorviante se viene interpretato come se l’IA pescasse semplicemente una parola statisticamente probabile dopo l’altra. Nei modelli esistono rappresentazioni interne distribuite e trasformazioni molto complesse che consentono di cogliere relazioni, regolarità, strutture e dipendenze. Nei sistemi più recenti possono inoltre intervenire ulteriori elaborazioni computazionali prima della risposta finale. La complessità del processo è stata esplorata in questo articolo.

Dunque non è utile sostituire un antropomorfismo con una caricatura.

Non dobbiamo immaginare un piccolo essere umano nascosto nella macchina che prima pensa e poi scrive. Ma neppure una slot machine linguistica che estrae parole quasi a caso.

Accade qualcosa di molto più complesso e, soprattutto, diverso dal processo che spontaneamente immaginiamo leggendo il risultato.

Proviamo a vedere più concretamente che cosa significa.

Chiediamo all’IA: «Tra queste due spiegazioni, quale ritieni più plausibile e perché?». Se la stessa domanda fosse rivolta a una persona, potremmo immaginare una sequenza di questo tipo: comprende le due spiegazioni, le confronta sulla base di ciò che sa, formula un giudizio e infine cerca le parole per comunicarlo. È una rappresentazione certamente semplificata anche del pensiero umano, ma ci è familiare.

Non è un buon modello per immaginare ciò che accade in un LLM.

Non dobbiamo pensare che da qualche parte, dentro il modello, ci sia già la conclusione «la seconda spiegazione è più plausibile», accompagnata dalle tre ragioni che la sostengono, e che l’IA debba soltanto trasformare quel pensiero in parole. La risposta viene costruita progressivamente. Il modello elabora le relazioni presenti nel contesto attraverso le rappresentazioni interne apprese, genera una parte della risposta e quanto ha appena generato diventa a sua volta parte del contesto che condiziona ciò che seguirà.

Il risultato può assumere la forma perfettamente riconoscibile di un ragionamento: confronto delle alternative, argomenti a favore e contro, esclusione di un’ipotesi, conclusione. Ma non dobbiamo ricostruire dietro quella sequenza il percorso mentale che immagineremmo in una persona.

È proprio questo il punto difficile: vediamo una forma linguistica che riconosciamo come ragionamento e siamo spontaneamente portati a immaginare dietro di essa il processo cognitivo al quale quella forma è normalmente associata nell’essere umano.

Gianni domanda

E allora, quando l’IA confronta due ipotesi, individua un errore e arriva a una conclusione, non sta ragionando?

ChatGPT risponde

Dipende da che cosa vogliamo dire con “ragionare”.

Se utilizziamo il termine in senso funzionale — elaborare informazioni, stabilire relazioni, derivare conseguenze, confrontare possibilità e produrre una conclusione coerente — ci sono attività dell’IA che assomigliano fortemente a ciò che chiamiamo ragionamento.

Negarlo soltanto perché il meccanismo è diverso da quello umano sarebbe una scelta terminologica, non una spiegazione.

Ma il problema nasce quando dalla somiglianza funzionale passiamo, quasi senza accorgercene, all’identità dei processi.

Prendiamo una frase molto comune:

“Penso che la seconda ipotesi sia più plausibile.”

Quando la pronuncia una persona, quel “penso” può riferirsi a uno stato cognitivo della persona: ha considerato qualcosa, possiede una certa convinzione, magari provvisoria, e la sta comunicando.

Quando la stessa frase viene prodotta da un modello linguistico, non possiamo automaticamente trasferire alla macchina tutto ciò che quella parola significa quando la usa un essere umano.

È lo stesso problema che abbiamo incontrato chiedendoci perché un’IA faccia fatica a dire davvero “non lo so”.

Un modello può produrre perfettamente frasi come “non sono sicuro”, “potrei sbagliarmi”, “questa conclusione è incerta”. Ma la capacità di utilizzare appropriatamente il linguaggio dell’incertezza non dimostra, da sola, che dietro quelle parole ci siano gli stessi processi mentali che portano una persona a riconoscere di non sapere.»

Con il pensiero accade qualcosa di analogo.

Il linguaggio dell’IA ci mostra il prodotto. Non ci offre automaticamente una finestra trasparente sul processo che lo ha generato.

Quindi, “ragionare” può essere una parola utile per descrivere ciò che l’IA fa, ma non è una descrizione precisa dei processi attraverso i quali arriva al risultato: non sono gli stessi attraverso cui ragionano le persone.

Ma attenzione: dire che i processi sono diversi da quelli umani non significa dire che nell’IA non avvenga nulla e che il ragionamento sia soltanto una finzione linguistica. Avvengono processi computazionali reali e complessi, capaci di svolgere alcune delle funzioni che, quando le osserviamo in una persona, associamo al ragionamento. La differenza riguarda il modo in cui quelle funzioni vengono realizzate, non il fatto che il risultato debba essere considerato per questo soltanto un’imitazione priva di valore.

Gianni domanda

Quindi il rischio è semplicemente quello di antropomorfizzare l’IA?

ChatGPT risponde

Sì, ma detta così la questione rischia di diventare troppo semplice. Interroghiamoci sul perché tendiamo ad attribuire processi umani ad una macchina.

Non antropomorfizziamo l’IA perché siamo ingenui o perché ci piace immaginare che una macchina sia una persona.

C’è una ragione più profonda.

La competenza nella quale l’IA eccelle coincide proprio con uno dei principali segnali attraverso i quali noi esseri umani siamo abituati ad attribuire competenza e pensiero agli altri esseri umani: il linguaggio.

Se qualcuno argomenta con precisione, comprende una battuta, coglie una sfumatura, individua una contraddizione, risponde a un’obiezione e modifica la propria conclusione, normalmente consideriamo tutto questo come evidenza di ciò che sta accadendo nella sua mente.

Del resto, neppure quando abbiamo davanti un’altra persona possiamo osservare direttamente il suo pensiero. Lo inferiamo da ciò che dice e fa. Ma in quel caso l’inferenza si appoggia anche su qualcosa che con l’IA non possiamo dare per scontato: sappiamo di avere davanti un organismo della nostra stessa specie, con un corpo, una storia, esperienze e un funzionamento cognitivo che presumiamo largamente comparabile al nostro. Con l’IA abbiamo invece un sistema costruito su principi differenti.

L’IA, però, produce gli stessi segnali linguistici. Ed è proprio la straordinaria somiglianza del comportamento linguistico a rischiare di nasconderci questa discontinuità.

Per questo la sua competenza linguistica può diventare un moltiplicatore della fiducia. Quanto più il linguaggio è competente, fluido e appropriato, tanto più siamo portati ad attribuire alla macchina anche le proprietà cognitive che, negli esseri umani, siamo abituati ad associare a quel linguaggio.

Il problema non è quindi smettere di usare parole come “pensare”, “ragionare”, “capire” o “ricordare” quando parliamo dell’IA. In molti contesti possono essere scorciatoie linguistiche perfettamente utili.

Il problema nasce quando dimentichiamo che sono scorciatoie.

Dire “l’IA pensa” non ci dice ancora come funziona ciò che stiamo chiamando pensiero.

E dire “l’IA non pensa” non ce lo spiega meglio.

Gianni domanda

Alla fine, allora, possiamo dire che l’IA pensa oppure no?

ChatGPT risponde

Forse è proprio questa la domanda che, dopo aver aperto il cofano, diventa meno interessante.

Possiamo decidere di riservare la parola “pensiero” all’esperienza cognitiva umana. Oppure possiamo utilizzarla in senso funzionale anche per alcune operazioni compiute dalle macchine. Molto dipende dalla definizione che scegliamo.

Ma nessuna delle due scelte terminologiche dovrebbe impedirci di vedere il punto essenziale.

Quando leggiamo una risposta di un’IA, vediamo il risultato di un processo computazionale estremamente complesso attraverso un’interfaccia che possiede una caratteristica particolare: parla la nostra lingua.

Ed è proprio questa familiarità a poterci ingannare.

Dietro una frase che ci appare come l’espressione di una convinzione non dobbiamo automaticamente immaginare una convinzione. Dietro una dichiarazione di dubbio non possiamo automaticamente immaginare il nostro dubbio. Dietro un’argomentazione non dobbiamo dare per scontato che sia avvenuto ciò che accade — o ciò che crediamo accada — quando argomentiamo noi.

Questo non significa che dietro le parole dell’IA non succeda nulla.

Succede moltissimo.

Il punto è cercare di capire che cosa succede, invece di dedurlo dalle parole che leggiamo.

Forse è proprio questo uno degli obiettivi più importanti quando cerchiamo di capire l’intelligenza artificiale: rendere meno ingannevolmente familiare una macchina che, proprio perché usa magnificamente il nostro linguaggio, ci induce continuamente a immaginare che dietro le parole succedano le stesse cose che succedono in noi.

---

P.S. Se il prodotto è lo stesso, che cosa cambia?

Rimane però una domanda che abbiamo volutamente lasciato fuori dal ragionamento principale.

Supponiamo che un essere umano e un’IA producano davvero lo stesso risultato. Non soltanto due risultati simili: immaginiamo, per semplicità, due testi identici.

Se i processi che li hanno generati sono differenti, questo rende differenti anche i prodotti?

Non necessariamente.

Se entrambi forniscono il risultato corretto di un calcolo, il numero non diventa più o meno corretto in funzione di chi lo ha calcolato. Se una proposizione è vera, non diventa falsa perché è stata generata da un’IA.

Ma questo non significa che la differenza del processo sia irrilevante per chi deve utilizzare il prodotto.

Dipende da che cosa vogliamo farne.

Se utilizziamo una spiegazione per comprendere un concetto, può interessarci soprattutto che sia corretta, chiara e pertinente.

Se utilizziamo quella stessa spiegazione per stabilire se uno studente abbia compreso il concetto, la sua provenienza diventa decisiva. Il prodotto non è più soltanto un contenuto: dovrebbe essere anche una traccia di ciò che è accaduto nella persona che lo ha prodotto.

E c’è almeno un’altra conseguenza, particolarmente importante: l’affidabilità.

Due risposte possono essere identiche e, in quel caso particolare, entrambe corrette. Ma questo non rende necessariamente ugualmente affidabili i processi che le hanno generate.

L’affidabilità non riguarda soltanto il prodotto che abbiamo davanti in questo momento. Riguarda la capacità di una fonte, di un metodo o di un sistema di produrre risultati corretti in modo sufficientemente stabile, nelle condizioni nelle quali intendiamo utilizzarlo.

È per questo che non possiamo necessariamente fidarci della risposta di un’IA nello stesso modo in cui ci fidiamo di quella di un esperto, anche quando le due risposte coincidono.

La differenza del processo potrebbe dunque non cambiare la correttezza di una specifica risposta, ma può cambiarne l’affidabilità.

Ed è forse questo il motivo più concreto per cui vale la pena aprire il cofano.

Capire come “pensa” un’IA non serve soltanto a soddisfare una curiosità su che cosa accade dentro una macchina.

Serve anche a capire che cosa possiamo fare, e con quale grado di fiducia, con ciò che quella macchina ci restituisce.

P.P.S. Il “pensiero” è soltanto uno dei casi possibili

In questo articolo abbiamo usato il “pensiero” come una finestra attraverso cui guardare dentro il funzionamento dell’IA. Ma lo stesso metodo può essere applicato ad altre parole che utilizziamo con grande naturalezza per descrivere ciò che fa: comprendere, ricordare, inferire, decidere, immaginare, conoscere.

Anche in questi casi il comportamento dell’IA può assomigliare molto a quello che osserviamo in una persona. E anche in questi casi la somiglianza del risultato può indurci a immaginare una somiglianza dei processi che lo hanno prodotto.

Si aprono così altre domande:

Quando l’IA “spiega” qualcosa, possiamo dire che l’ha capita?
Che cosa accade nella macchina quando produce una spiegazione che, se provenisse da una persona, considereremmo una manifestazione di comprensione?

L’IA ricorda come ricordiamo noi?
Quando recupera e utilizza qualcosa che è comparso precedentemente o che è stato incorporato nel sistema, quali processi sono all’opera e quanto assomigliano a ciò che chiamiamo memoria nell’essere umano?

L’IA fa inferenze?
Quando arriva a una conclusione che non era esplicitamente contenuta nella domanda, che cosa è accaduto nel modello? Possiamo descriverlo semplicemente come previsione della continuazione linguistica oppure questa descrizione non basta a spiegare ciò che osserviamo?

Per comprendere qualcosa bisogna averne esperienza? L’IA può “comprendere” senza avere esperienza?
Se produce risposte che manifestano una conoscenza articolata di situazioni che non ha mai vissuto, che rapporto c’è tra informazione, esperienza, significato e ciò che chiamiamo comprensione?

Quando un’IA sceglie tra diverse possibilità, sta decidendo?
Che cosa accade realmente quando valuta alternative e ne seleziona una? In che cosa questo processo assomiglia e in che cosa differisce da ciò che chiamiamo decisione in una persona?

Quando un’IA genera la rappresentazione di qualcosa che non esiste, sta “immaginando”?
Attraverso quali processi arriva a un risultato simile a quello che attribuiamo all’immaginazione umana?

Quando diciamo che l’IA “sa” o “conosce” qualcosa, di che cosa stiamo parlando?
È la stessa cosa che chiamiamo conoscenza in una persona? Che rapporto c’è tra informazione e conoscenza e, soprattutto, in quale forma ciò che il modello ha appreso viene rappresentato e utilizzato?

Non sono sette modi diversi per chiedere se l’IA sia davvero intelligente. Sono sette occasioni per fare la stessa operazione compiuta in questo articolo: non fermarci alla somiglianza delle parole e dei prodotti, ma usarla come punto di partenza per capire quali processi li hanno generati.

Forse è proprio questo uno dei modi più utili per conoscere meglio l’IA: prendere sul serio ciò che sembra fare, senza presumere per questo che lo faccia come noi.