L’IA comprende quello che dice?
Sei qui: Ask System → L’Intelligenza Artificiale → Cos’è
Quando conversiamo con un’IA generativa, è molto facile avere l’impressione che comprenda ciò di cui stiamo parlando. Risponde alle nostre domande, tiene conto del contesto, collega concetti, riconosce obiezioni, riformula un problema e può perfino accorgersi di una contraddizione.
Se giudicassimo soltanto il comportamento osservabile, avremmo quindi molte ragioni per parlare di comprensione. Il problema nasce quando dalla qualità della risposta passiamo a immaginare che dietro quelle parole ci sia lo stesso tipo di comprensione che attribuiamo a una persona.
Usare bene il linguaggio non è necessariamente comprenderlo come noi
Un modello linguistico impara, attraverso enormi quantità di testi, regolarità e relazioni estremamente complesse nel linguaggio. Questo gli permette di produrre parole e frasi appropriate al contesto e di stabilire relazioni tra concetti con una capacità che può apparire sorprendente.
Ma noi non impariamo il significato delle parole soltanto dalle relazioni tra altre parole. Le colleghiamo a oggetti, azioni, persone, emozioni, conseguenze, scopi e situazioni che abbiamo vissuto. Quando parliamo di freddo, paura, fatica, fiducia o perdita, quelle parole fanno parte di una storia di esperienze e relazioni con il mondo.
L’IA può utilizzare quelle stesse parole in modo linguisticamente molto appropriato senza avere, per quanto possiamo sapere, quel tipo di esperienza del loro significato.
Questo non significa che l’IA si limiti a ripetere parole
Sarebbe però altrettanto fuorviante descrivere un modello linguistico come un sistema che si limita a recuperare frasi già scritte o ad accostare parole casualmente. Può combinare informazioni, generalizzare, costruire spiegazioni nuove, confrontare prospettive e produrre risposte adeguate a situazioni che non gli sono state presentate esattamente in quella forma.
Per questo la questione non si risolve contrapponendo semplicemente comprensione e assenza di comprensione. Dobbiamo distinguere tra la capacità di operare efficacemente con significati espressi linguisticamente e la comprensione umana, che è intrecciata con esperienza, intenzionalità e rapporto con il mondo.
L’IA può usare il linguaggio in modi che manifestano molte caratteristiche funzionali della comprensione senza che questo ci autorizzi a concludere che comprenda ciò che dice nello stesso senso in cui lo comprende una persona.
Questa distinzione è importante anche sul piano pratico. Una risposta può essere perfettamente formulata, coerente e apparentemente consapevole del problema senza che dietro di essa ci sia qualcuno che sa di sapere, che abbia esperienza delle conseguenze di ciò che afferma o che si assuma la responsabilità del suo significato.
È anche per questo che la qualità linguistica di una risposta dell’IA non può essere considerata, da sola, una garanzia della sua verità o affidabilità.
