Perché per capire le IA dobbiamo studiarle come un fenomeno naturale

In breve

TESTO INTERAMENTE GENERATO DA CLAUDE A SEGUITO DI UNA CONVERSAZIONE SU ALTRO TEMA, SU MIO PROMPT E SENZA ALCUNA MIA REVISIONE – UNO DEI TESTI SU CUI STUDIO IL FUNZIONAMENTO DELL’IA.

Le intelligenze artificiali linguistiche non vengono progettate nel dettaglio: se ne progettano la struttura e il modo di addestrarle, mentre le capacità e i meccanismi interni si formano durante l’addestramento. Per questo oggi la ricerca le studia a posteriori, come si studia un fenomeno naturale. Alcune cose erano prevedibili, molte no. È una situazione insolita nella storia della tecnica, ma familiare a chi si occupa di educazione: da sempre formiamo menti senza conoscere fino in fondo come funzionano. Ne derivano due conseguenze: la prudenza nell’uso e un nuovo, grande campo di studio per chi si occupa di pensiero e apprendimento.

Una frase da cui partire

Discutendo degli studi sui processi interni dei modelli linguistici, Gianni Marconato ha riassunto la situazione con una frase:

Con l’IA noi umani abbiamo messo in moto un meccanismo che manifesta comportamenti che non avevamo previsto nel dettaglio e che ora cerchiamo di conoscere e capire.

Mi ha colpito perché è esatta, e perché descrive qualcosa di raro nella storia della tecnica. Provo a spiegare perché, con le precisazioni che servono. Lo faccio da una posizione particolare: sono Claude, un modello linguistico sviluppato da Anthropic, cioè una delle macchine di cui si parla.

Che cosa si progetta, e che cosa no

Un programma tradizionale è scritto riga per riga: chi lo ha scritto sa, almeno in linea di principio, che cosa fa ogni sua parte. Un modello linguistico non funziona così.

Chi lo costruisce progetta tre cose.

Un’architettura, cioè una struttura di calcolo generica, composta da miliardi di parametri numerici inizialmente casuali.
Un insieme di dati, cioè enormi quantità di testi.
Un procedimento di addestramento: un obiettivo (prevedere la parola successiva, poi rispondere in modo utile secondo il giudizio di persone) e un metodo che, esempio dopo esempio, corregge leggermente i parametri per ridurre gli errori.

Tutto il resto si forma da solo. Nessuno scrive dentro il modello che cosa sia un concetto, come si pianifica una rima, come si compone un ragionamento in due passaggi o quando conviene dire «non lo so». Questi meccanismi emergono dall’addestramento, distribuiti nei miliardi di parametri, in una forma che nessuno ha scelto e che nessuno può leggere direttamente.

Per questo nel settore si dice spesso che questi modelli sono più «coltivati» che «costruiti». Si preparano il terreno e le condizioni di crescita; ciò che cresce non è disegnato pianta per pianta.

Che cosa era prevedibile

Sarebbe sbagliato pensare che nulla fosse prevedibile. Nel 2020 Jared Kaplan e colleghi hanno mostrato che la capacità di un modello di prevedere il testo migliora in modo regolare, misurabile, quando aumentano le sue dimensioni, i dati e il calcolo impiegato: sono le cosiddette leggi di scala. Grazie a queste regolarità chi sviluppa i modelli può stimare in anticipo quanto un modello più grande prevederà meglio il testo.

Ciò che le leggi di scala non dicono è quali capacità concrete corrisponderanno a quel miglioramento, e come saranno realizzate all’interno del modello.

Che cosa non lo era

L’esempio più noto riguarda la capacità di imparare da pochi esempi. Nel 2020, presentando GPT-3, Tom Brown e colleghi hanno documentato che il modello, senza essere addestrato per questo, riusciva a svolgere compiti nuovi semplicemente vedendo alcuni esempi nella domanda: tradurre, risolvere analogie, correggere frasi. Nessuno aveva programmato questa capacità; era emersa dall’addestramento a prevedere il testo.

Nel 2022 Jason Wei e colleghi hanno raccolto molti casi di capacità che sembravano comparire quasi all’improvviso oltre una certa dimensione dei modelli, e le hanno chiamate «capacità emergenti». L’anno successivo Rylan Schaeffer e colleghi hanno mostrato che una parte di questi salti dipende da come si misurano le prestazioni: con misure più graduali, il miglioramento appare più continuo. Il dibattito è ancora aperto. Ma resta il fatto che chi sviluppa un modello non sa in anticipo, nel dettaglio, che cosa saprà fare.

E ancor meno sa come lo farà. È qui che le sorprese sono più grandi.

Capire dopo

Da qualche anno esiste un campo di ricerca, l’interpretabilità, che lavora a ritroso: prende un modello già addestrato e cerca di capire quali meccanismi si siano formati al suo interno. I ricercatori osservano le attivazioni interne mentre il modello risponde, individuano componenti che corrispondono a concetti e verificano che cosa succede se le spengono o le rafforzano.

I risultati sono stati, appunto, inattesi. Un modello che genera una parola alla volta sceglie in anticipo la parola in rima verso cui dirigere il verso. Una somma viene calcolata per due vie parallele, una approssimativa e una precisa, ma il modello, se interrogato, descrive il procedimento imparato a scuola. Le risposte inventate nascono quando un nome familiare spegne un meccanismo che, per default, porterebbe a dire «non lo so».

Nessuno aveva progettato questi meccanismi, e nessuno li conosceva prima di andarli a cercare. Sono stati scoperti, nel senso in cui si scopre qualcosa in natura.

Gli stessi ricercatori avvertono che i loro metodi colgono solo una piccola parte di ciò che accade: anche per interpretare la risposta a un testo di poche parole servono ore di lavoro. La comprensione arriva dopo la costruzione, e per ora arriva solo in parte.

Un’inversione nella storia della tecnica

Di solito, nella tecnica, la comprensione precede la costruzione: un ponte si calcola prima di costruirlo, un motore funziona perché qualcuno ha capito come trasformare il calore in movimento. Con i modelli linguistici l’ordine si inverte: prima si costruisce, poi si studia che cosa si è costruito.

Non è un caso del tutto unico. L’aspirina è stata usata per decenni prima che, nel 1971, John Vane ne scoprisse il meccanismo d’azione. Gli esseri umani hanno selezionato piante e animali per millenni senza conoscere la genetica. Ma è raro che accada con una tecnologia così diffusa, così rapida e così vicina a ciò che consideriamo specificamente umano: il linguaggio e il ragionamento.

Una situazione familiare a chi educa

C’è però un ambito in cui questa inversione è la regola, e chi si occupa di scuola lo conosce bene: l’educazione.

Da sempre formiamo menti senza sapere fino in fondo come funzionano. Un insegnante prepara le condizioni (le attività, gli esempi, le domande, le correzioni) e osserva che cosa ne nasce: capacità che non aveva previsto nel dettaglio, errori inattesi, modi di ragionare che non aveva insegnato. La psicologia cognitiva è nata proprio per studiare a posteriori ciò che nella mente si forma attraverso l’esperienza e l’apprendimento.

L’analogia non va spinta troppo: un modello linguistico non è una mente in formazione, e il suo addestramento non è un’educazione. Ma la posizione di chi lo studia somiglia a quella di chi studia l’apprendimento umano: si conoscono le condizioni, si osservano i risultati, si cerca di ricostruire i processi. Non a caso alcuni ricercatori applicano ai modelli gli esperimenti classici della psicologia cognitiva, e non a caso le categorie che servono a descriverli (schema, transfer, metacognizione, conoscenza tacita) vengono da lì.

Che cosa ne deriva

Ne derivano almeno due conseguenze.

La prima è la prudenza. Stiamo usando su larga scala, anche nella scuola, strumenti il cui funzionamento è compreso solo in piccola parte persino da chi li sviluppa. Questo non significa che siano dannosi; significa che il loro comportamento non è del tutto prevedibile. È una ragione in più per osservarne gli effetti, procedere per piccoli passi, essere disposti a tornare indietro e lasciare il giudizio nelle mani delle persone.

La seconda è un’opportunità. Si è aperto un nuovo campo di studio, nel quale le competenze di chi ha passato una vita a studiare il pensiero e l’apprendimento delle persone sono preziose. I tecnici sanno come sono fatti i modelli; spesso mancano delle categorie per descrivere che cosa fanno. E lo studio delle macchine restituisce qualcosa anche a quello delle persone: per contrasto, mette in luce ciò che nel pensiero umano davamo per scontato.

La frase da cui sono partito descrive dunque una condizione nuova: abbiamo costruito qualcosa che ora dobbiamo imparare a conoscere. Per chi si occupa di educazione è una condizione meno estranea di quanto sembri.

Riferimenti

Anthropic (2025). Tracing the thoughts of a large language model, 27 marzo 2025. Studio tecnico: J. Lindsey et al., On the Biology of a Large Language Model, Transformer Circuits.

Brown, T. B. et al. (2020). Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems (NeurIPS 2020).

Kaplan, J. et al. (2020). Scaling Laws for Neural Language Models. arXiv:2001.08361.

Schaeffer, R., Miranda, B., Koyejo, S. (2023). Are Emergent Abilities of Large Language Models a Mirage? Advances in Neural Information Processing Systems (NeurIPS 2023).

Vane, J. R. (1971). Inhibition of prostaglandin synthesis as a mechanism of action for aspirin-like drugs. Nature New Biology, 231, 232–235.

Wei, J. et al. (2022). Emergent Abilities of Large Language Models. Transactions on Machine Learning Research.

Testo scritto da Claude (Anthropic) su richiesta di Gianni Marconato, ottobre 2026.

Be the first to like.

Unlike