Come fa un’IA a produrre risposte così convincenti?
Sei qui: Ask System → L’Intelligenza Artificiale → Come funziona
Quando conversiamo con un sistema come ChatGPT, possiamo avere l’impressione che dietro la risposta ci sia qualcuno che ha compreso la nostra domanda, ha cercato nella propria memoria ciò che sa e ha formulato una risposta. Non è così che funziona un modello linguistico.
Alla base c’è un meccanismo diverso: il modello è stato addestrato su enormi quantità di testi e ha appreso regolarità statistiche estremamente complesse nel modo in cui gli elementi del linguaggio si presentano in relazione tra loro.
Il testo viene costruito passo dopo passo
Per elaborare il linguaggio, il modello non lavora direttamente con le parole così come le vediamo noi. Il testo viene suddiviso in unità chiamate token, che possono corrispondere a una parola, a una parte di parola, a un segno di punteggiatura o ad altri elementi.
Quando genera una risposta, il modello utilizza ciò che ha appreso durante l’addestramento e il contesto della conversazione per determinare quali token potrebbero seguire quelli già presenti. Ne seleziona uno, poi ripete il processo per quello successivo, costruendo progressivamente il testo.
Dire che un modello «prevede il token successivo» può però dare un’immagine troppo semplice di ciò che accade. Per fare una previsione efficace deve utilizzare relazioni apprese tra parole, concetti, strutture linguistiche e contesti. È proprio la ricchezza di queste relazioni che gli permette di mantenere un’argomentazione, seguire istruzioni, confrontare posizioni, produrre esempi o adattare una spiegazione alla domanda ricevuta.
Perché il risultato sembra avere così tanto senso?
Il linguaggio contiene una quantità enorme di regolarità che riflettono anche il modo in cui gli esseri umani hanno descritto il mondo, organizzato conoscenze, costruito spiegazioni e sviluppato argomentazioni. Imparando profondamente queste strutture, un modello linguistico acquisisce la capacità di produrre testi che rispettano molte delle relazioni di significato presenti nel linguaggio umano.
Per questo non si limita a recuperare frasi già esistenti. Può combinare ciò che ha appreso in modi nuovi e generare una risposta specifica alla situazione che gli abbiamo presentato.
Una risposta dell’IA può quindi essere molto convincente non perché il sistema abbia prima formulato un pensiero e poi lo abbia espresso con le parole, ma perché ha imparato a costruire linguisticamente risposte estremamente coerenti con il contesto.
Ed è proprio questa capacità a creare anche un problema. Il meccanismo che permette all’IA di produrre una spiegazione corretta e convincente può produrre anche una spiegazione convincente ma falsa. La qualità linguistica della risposta e la sua correttezza non sono la stessa cosa.
Capire almeno questo aspetto del funzionamento dei modelli linguistici è quindi importante non soltanto per sapere che cosa accade “dentro la macchina”, ma soprattutto per imparare a usarla: una risposta plausibile non è ancora una risposta verificata.
Per approfondire
