Come fa un’IA a lavorare con le parole se non le comprende come le comprendiamo noi?
Sei qui: Ask System → L’Intelligenza Artificiale → Come funziona
Può sembrare un paradosso. Se un’IA non comprende le parole come le comprendiamo noi, come può usarle in modo così appropriato, spiegare un concetto, cogliere una sfumatura o sostenere una discussione complessa?
La risposta sta nel fatto che per lavorare efficacemente con il linguaggio non è necessario possedere lo stesso tipo di comprensione che abbiamo noi. Un modello linguistico ha imparato una quantità enorme di relazioni presenti nei testi prodotti dagli esseri umani.
Le parole non sono elementi isolati
Nel linguaggio ogni parola compare in relazione con molte altre. Alcune parole tendono a presentarsi in determinati contesti, concetti diversi vengono messi in relazione, certe strutture esprimono una causa, un confronto, un’obiezione, una conseguenza o una spiegazione.
Durante l’addestramento un modello linguistico apprende regolarità di questo tipo su una scala difficilmente immaginabile. Non conserva semplicemente un enorme dizionario di frasi: costruisce rappresentazioni matematiche delle relazioni tra gli elementi del linguaggio.
Inoltre, ciò che per noi appare come una parola non è necessariamente l’unità con cui lavora il modello. Il testo viene suddiviso in token, che vengono trasformati in rappresentazioni numeriche attraverso le quali il sistema può elaborare le relazioni presenti nel contesto.
Nel linguaggio c’è molto del nostro mondo
C’è però un passaggio ancora più importante. I testi sui quali questi sistemi sono stati addestrati non contengono soltanto regolarità linguistiche. Contengono ciò che gli esseri umani hanno scritto sul mondo: conoscenze, spiegazioni, esperienze, problemi, argomentazioni, classificazioni, analogie e modi di mettere in relazione le cose.
Imparando le strutture del linguaggio, il modello apprende quindi anche moltissime relazioni che gli esseri umani hanno espresso attraverso il linguaggio. È questo che gli permette, per esempio, di collegare una causa a una conseguenza, confrontare due teorie, individuare una contraddizione o costruire un esempio appropriato.
L’IA non ha bisogno di vivere il significato delle parole come lo viviamo noi per riuscire a operare in modo estremamente sofisticato sulle relazioni di significato che gli esseri umani hanno depositato nel linguaggio.
La differenza rimane
Questo non rende però identico il rapporto che noi e l’IA abbiamo con le parole. Per una persona il significato di correre, dolore, paura, fiducia o perdita non nasce soltanto dai testi nei quali quelle parole compaiono. È intrecciato con il corpo, l’esperienza, le relazioni, gli scopi e la propria storia.
Un modello linguistico può invece utilizzare quelle parole in modo sorprendentemente appropriato senza aver mai corso, provato dolore, avuto paura o riposto fiducia in qualcuno.
È quindi possibile riconoscere la straordinaria capacità dell’IA di lavorare con il linguaggio senza doverle attribuire automaticamente la stessa esperienza del significato che caratterizza la comprensione umana.
Per approfondire
