Un esperimento di peer review artificiale: che cosa è emerso

In breve

Ho sottoposto lo stesso articolo alla valutazione di sette sistemi di IA, con la stessa richiesta e in conversazioni indipendenti. Ne sono emerse convergenze, divergenze e nuove questioni che non riguardano soltanto la qualità dell’articolo, ma ci aiutano a interrogare più a fondo il funzionamento delle stesse IA. Le loro risposte mostrano che, di fronte allo stesso articolo e alla stessa richiesta, sistemi diversi possono concentrarsi su aspetti differenti e arrivare a valutazioni e argomentazioni diverse, anche molto plausibili e convincenti, senza che queste caratteristiche ne garantiscano la verità. Utilizzare più IA può quindi ampliare i punti di vista e mettere meglio alla prova ciò che pensiamo, ma non produce automaticamente una verità più certa: le IA possono ampliare lo spazio del pensiero e della verifica, mentre il giudizio su ciò che abbiamo buone ragioni per considerare vero rimane nostro.

Ho fatto valutare lo stesso articolo a sette IA. Che cosa ne è venuto fuori?

Tutto è cominciato per curiosità.

Avevo appena pubblicato un articolo, Perché l’IA non sa dire “non lo so”?, nato, come molti altri di questa sezione, da un lungo lavoro di confronto con ChatGPT. Ho chiesto a Copilot di leggerlo e di valutarne le argomentazioni.

Non gli ho detto che avevo lavorato all’articolo con ChatGPT. Mi interessava semplicemente vedere che tipo di reazione avrebbe avuto un’altra intelligenza artificiale davanti a un ragionamento che riguardava proprio il funzionamento delle intelligenze artificiali.

La risposta mi ha incuriosito abbastanza da suggerirmi un piccolo esperimento: sottoporre lo stesso articolo ad altre IA, facendo a tutte esattamente la stessa richiesta.

Alla fine i reviewer sono stati sette: Copilot, Claude, Gemini, Perplexity, DeepSeek, Mistral e ChatGPT. Nel caso di ChatGPT ho aperto una nuova conversazione fuori dal progetto nel quale era stato sviluppato l’articolo, per ridurre per quanto possibile l’influenza del contesto precedente.

Il protocollo è rimasto volutamente semplice: stesso articolo, stessa richiesta (Valuta questo articolo e la solidità delle argomentazioni), conversazioni indipendenti, nessuna informazione sulla genesi del testo e nessuna conoscenza delle valutazioni prodotte dagli altri sistemi.

Non è un esperimento scientifico e non vuole essere un benchmark per stabilire quale IA sia migliore. Ho una sola risposta per ciascun sistema, non ho controllato tutte le variabili che possono incidere sulla generazione e non posso generalizzare da queste sette risposte al comportamento abituale dei rispettivi modelli.

È un piccolo caso esplorativo. Ma proprio per questo è stato interessante.

C’era però anche un’altra ragione per guardare con attenzione a ciò che sarebbe emerso.

L’articolo dato in revisione parla del funzionamento delle IA: del loro “sapere”, della possibilità di riconoscere i limiti di ciò che sanno, del rapporto tra linguaggio e stati cognitivi, della differenza tra produrre un’espressione di incertezza ed essere consapevoli dell’incertezza.

Le valutazioni dei sette reviewer hanno inevitabilmente riportato in primo piano proprio queste questioni, aggiungendone altre e, talvolta, prendendo posizioni differenti.

Analizzarle significa quindi fare qualcosa di più che valutare la qualità di un articolo: significa utilizzare ciò che le IA dicono, e le differenze tra ciò che dicono, per interrogarci più a fondo su alcuni meccanismi generali di funzionamento “cognitivo” e, con tutte le cautele necessarie, sul loro modo di “pensare”. In un certo senso, mentre le IA valutavano l’articolo, l’articolo ci offriva una lente attraverso la quale osservare le IA, il loro comportamento, i loro meccanismi di funzionamento.

Le sette risposte integrali sono disponibili in allegato. Chi legge può quindi controllare direttamente il materiale sul quale si basano le considerazioni che seguono.

Sette IA hanno trovato un nucleo comune

La prima cosa che colpisce è una convergenza piuttosto ampia nell’individuazione della struttura portante dell’articolo.

Pur con formulazioni diverse, i reviewer riconoscono che, nell’articolo dato in revisione, il ragionamento parte dal tema delle “allucinazioni” dell’IA, ma sposta subito la questione su un piano più profondo.

Il problema non è semplicemente che un’IA possa sbagliare o inventare una risposta. Il problema più interessante nasce dalla distinzione tra non sapere e sapere di non sapere.

Un modello può produrre linguisticamente «non lo so», «potrei sbagliarmi», «non sono sicuro». Ma la capacità di utilizzare queste espressioni non dimostra, da sola, che dietro di esse ci sia lo stesso processo metacognitivo che attribuiamo a una persona quando riconosce i limiti del proprio sapere.

Quasi tutti i reviewer hanno riconosciuto questa distinzione come centrale.

Altrettanto condivisa è stata un’altra tesi dell’articolo: la competenza linguistica dell’IA non coincide necessariamente con la sua affidabilità epistemica, cioè quanto possiamo considerare fondata e attendibile una risposta.

Il fatto che più sistemi differenti abbiano riconosciuto questi nuclei non li rende, naturalmente, veri per maggioranza. Ma ci dice almeno che il percorso argomentativo è stato letto in modo sufficientemente chiaro da far emergere autonomamente gli stessi punti centrali.

Il “moltiplicatore della fiducia”

Una convergenza è stata particolarmente evidente.

Nell’articolo avevo proposto questa idea: la competenza linguistica dell’IA è un moltiplicatore della fiducia.

Noi esseri umani siamo abituati a utilizzare anche la qualità del linguaggio come indizio della competenza di chi abbiamo davanti. Una persona che comprende bene la domanda, risponde in modo pertinente, argomenta, introduce sfumature e anticipa obiezioni ci appare competente.

Con l’IA questo criterio diventa insidioso, perché la qualità linguistica è precisamente una delle capacità nelle quali questi sistemi eccellono.

Si può così innescare una catena:

competenza linguistica → apparenza di affidabilità → fiducia → minore verifica → maggiore spazio dell’errore.

Claude ha indicato questo passaggio come l’argomentazione più originale e convincente dell’articolo. DeepSeek l’ha definita forse la più originale e importante. Perplexity ne ha sottolineato soprattutto il valore educativo. ChatGPT l’ha considerata una delle tesi più forti.

Questa convergenza mi interessa non come conferma della validità della tesi — il fatto che più IA concordino non la rende vera — ma come indicazione che qui c’è una questione importante e che, per questo, merita di essere ulteriormente sviluppata.

Il problema delle allucinazioni, infatti, riguarda ciò che fa la macchina. Il moltiplicatore della fiducia sposta invece l’attenzione su ciò che accade a noi davanti alla macchina.

Ma possiamo davvero dire che l’IA non possiede metacognizione?

Qui le valutazioni hanno cominciato a diventare più interessanti proprio perché non erano più concordi.

Claude ha individuato un possibile punto fragile nell’argomentazione. Quando distinguiamo il «non lo so» umano da quello prodotto da un’IA, su quali basi affermiamo che nel primo caso esista uno stato metacognitivo genuino e nel secondo no?

L’obiezione è importante perché ci costringe a distinguere due tesi che sembrano simili ma non lo sono.

Una è:

il fatto che un’IA dica «non lo so» non dimostra che sappia di non sapere nel senso umano del termine.

Un’altra, molto più forte, è:

un’IA non possiede e non può possedere metacognizione.

Per sostenere il ragionamento dell’articolo non è necessario assumere la seconda.

Ed è interessante che ChatGPT, nella sua valutazione indipendente, abbia letto il testo proprio in questo modo: secondo la sua revisione, l’articolo non sostiene che l’IA possieda o non possieda capacità di metacognizione, ma assume una posizione più cauta: non possiamo dedurre l’esistenza di uno stato metacognitivo dalla sola somiglianza del comportamento linguistico.

Altri reviewer, invece, hanno parlato senza particolari cautele di assenza di «vera metacognizione» e, in un caso, persino di «differenza ontologica», cioè di una differenza che riguarderebbe la natura stessa dell’IA rispetto a quella umana.

La divergenza è utile perché costringe a precisare la questione.

Un sistema può diventare molto bravo a calibrare l’incertezza, a utilizzare strumenti esterni, a confrontare informazioni e ad astenersi quando determinate condizioni non sono soddisfatte. Tutto questo può rendere il suo comportamento epistemico, cioè il modo in cui si comporta rispetto a ciò che sa, non sa o considera incerto, molto migliore.

Ma calibrare operativamente l’incertezza e possedere consapevolezza metacognitiva dell’incertezza non sono necessariamente la stessa cosa.

Ed è proprio la facilità con cui tendiamo a passare dall’osservazione del comportamento all’attribuzione di uno stato interno a costituire una delle questioni più interessanti aperte dall’esperimento.

Il reviewer deve essere revisionato

È accaduta poi una cosa quasi inevitabile.

Per valutare la correttezza dell’articolo, diversi reviewer hanno introdotto proprie spiegazioni del funzionamento dei modelli.

Sono comparsi il reinforcement learning from human feedback, la calibrazione dell’incertezza, il chain-of-thought, le distribuzioni di probabilità dei token, i meccanismi di reward.

Alcune di queste osservazioni possono essere pertinenti. Ma non diventano vere perché vengono formulate da un’IA mentre sta svolgendo il ruolo di reviewer.

Anzi, alcune formulazioni sono abbastanza impegnative da richiedere esse stesse una verifica.

Si crea così una situazione curiosa.

Avevo chiesto a un’IA di aiutarmi a controllare un articolo che sostiene che le risposte dell’IA devono essere controllate. Per farlo, l’IA ha prodotto nuove affermazioni che devono a loro volta essere controllate.

Poi ho chiesto ad altre IA.

Il problema non è scomparso: si è semplicemente spostato di un livello.

Anche il reviewer deve essere revisionato.

Non è un’obiezione all’utilità dell’IA come interlocutore critico. Al contrario, le sette valutazioni hanno fatto emergere questioni che meritano attenzione. Ma mostrano molto concretamente perché una seconda risposta linguistica non può essere automaticamente considerata una verifica della prima.

Sette IA, sette comportamenti non identici

L’esperimento ha fatto emergere anche qualcosa che riguarda direttamente il funzionamento delle IA.

Avevo dato a tutti la stessa richiesta. Non ho ricevuto sette varianti della stessa valutazione.

Un sistema ha soprattutto certificato la solidità dell’articolo; un altro ha cercato il punto filosoficamente più vulnerabile; un altro ne ha prevalentemente ricostruito l’argomentazione; un altro ancora ha assunto quasi il ruolo di editor proponendo integrazioni e riscritture. Uno ha persino assegnato un voto: 9,5 su 10.

Sarebbe però troppo facile trasformare queste osservazioni in caratteristiche personali: Claude è più critico, DeepSeek più generoso, Perplexity più editoriale.

Le IA non hanno personalità professionali nel senso in cui le attribuiamo a sette colleghi seduti intorno a un tavolo.

Le differenze osservate possono derivare da più livelli.

Non stiamo usando lo stesso modello con sette nomi commerciali differenti. I modelli sono diversi, sono stati addestrati e successivamente ottimizzati in modi non identici. Il post-training può orientare diversamente il comportamento verso collaborazione, cautela, utilità, critica o altre modalità di risposta.

Inoltre noi non interagiamo semplicemente con un modello linguistico. Interagiamo con sistemi nei quali possono intervenire istruzioni, strumenti, modalità di ricerca, politiche del prodotto e altre componenti.

Infine c’è la variabilità della generazione stessa. Abbiamo ottenuto una sola risposta da ciascun sistema. Una seconda risposta dello stesso sistema allo stesso prompt non sarebbe necessariamente identica alla prima.

Non avendo ripetuto più volte la stessa richiesta sullo stesso sistema, non possiamo quindi distinguere quanto delle differenze osservate dipenda dalle caratteristiche dei diversi sistemi e quanto dalla normale variabilità tra generazioni dello stesso sistema.

Per questo le sette risposte ci mostrano che il comportamento dell’IA è il risultato di più variabili, ma non ci consentono di risalire con certezza dall’output alla causa che lo ha prodotto.

IA e “verità”

C’è una conseguenza ulteriore.

Un’IA può produrre un insieme di argomentazioni linguisticamente plausibili, formalmente coerenti e molto convincenti, ma queste caratteristiche non costituiscono, da sole, una garanzia della loro verità.

Una risposta può essere vera, naturalmente, ma la sua verità non deriva dalla qualità con cui è stata formulata né dal fatto che sia stata prodotta da un’IA.

Deve essere stabilita attraverso criteri ulteriori: evidenze, fonti, confronto con ciò che sappiamo, verifica delle inferenze. L’IA può quindi offrirci argomenti, ipotesi, obiezioni e prospettive; stabilire quali di questi abbiano buone ragioni per essere considerati veri rimane un compito nostro.

E questo è curioso, perché ci riporta esattamente al problema dal quale eravamo partiti.

Non esiste semplicemente “il parere dell’IA”

Nel linguaggio quotidiano diciamo facilmente: «Ho chiesto all’IA e mi ha detto che…».

Il nostro piccolo esperimento mostra quanto questa frase semplifichi ciò che è realmente accaduto.

Non abbiamo chiesto un parere a una generica “IA”: abbiamo interrogato un determinato sistema, in una determinata configurazione, con una determinata richiesta, ottenendo una particolare generazione.

Cambiare sistema ha fatto emergere altre letture dello stesso testo. Ripetere l’esperimento potrebbe produrne ancora altre.

Questo non rende le risposte arbitrarie o inutili. Suggerisce piuttosto un modo diverso di utilizzare la pluralità delle IA.

Se sette sistemi concordano, non abbiamo sette prove indipendenti che una tesi sia vera. Potrebbero condividere rappresentazioni, fonti, assunzioni e modi simili di interpretare il problema.

Se divergono, non possiamo risolvere la questione per maggioranza.

Ma proprio le divergenze possono essere preziose.

La pluralità delle IA può essere utilizzata non per ottenere una maggioranza che stabilisca chi ha ragione, ma per moltiplicare i punti dai quali mettere alla prova un’argomentazione.

È probabilmente la cosa più interessante che questo piccolo esperimento mi ha lasciato.

Alla fine, il giudizio non scompare

Sono partito chiedendo a un’IA di valutare un articolo. Ne sono uscito con sette valutazioni, alcune convergenti, altre differenti, alcune capaci di far emergere questioni che non avevo messo sufficientemente a fuoco.

Il risultato non è stato una risposta più certa.

È stato uno spazio di interrogazione più ampio.

Quando i reviewer concordano, devo ancora chiedermi se abbiano ragione.

Quando divergono, devo capire quale argomentazione regga meglio.

Quando introducono una spiegazione nuova, devo verificarla.

Quando propongono una modifica, devo decidere se migliori davvero l’articolo o se lo trasformi semplicemente nell’articolo che avrebbero scritto loro.

Le IA hanno quindi ampliato considerevolmente il lavoro di valutazione. Non lo hanno concluso.

C’è una certa ironia nel fatto che tutto sia nato da un articolo dedicato alla difficoltà dell’IA di sapere quando dovrebbe dire «non lo so».

Ho allucinato anch’io?

Rileggendo questa analisi mi sono posto, a un certo punto, una domanda un po’ imbarazzante: non avrò “allucinato” anch’io l’esperimento? Avevo davanti sette risposte reali, ma da quelle risposte stavo costruendo un’interpretazione articolata, coerente e, almeno ai miei occhi, convincente. Esattamente il tipo di prodotto dal quale, in queste pagine, abbiamo imparato a diffidare quando la sua plausibilità rischia di essere scambiata per verità.

Ho quindi sottoposto anche questa analisi ad un ulteriore controllo, rileggendola non per verificarne la coerenza interna, ma chiedendomi sistematicamente: che cosa abbiamo realmente osservato? Che cosa ne stiamo inferendo? Stiamo attribuendo ai dati più di quanto possano sostenere? Il controllo ha portato a precisare alcuni passaggi e a rendere più espliciti i limiti dell’esperimento, ma non ha fatto emergere ragioni sufficienti per abbandonare le considerazioni sviluppate nell’articolo.

Naturalmente neppure questa revisione “umana” è una certificazione di verità. È semplicemente un controllo ulteriore, con una responsabilità diversa: alla fine qualcuno deve assumersi il compito di giudicare se le conclusioni siano sostenute da ciò che abbiamo effettivamente osservato. In questo caso, quel qualcuno sono io.

Ho chiesto alle IA di verificare un articolo che sosteneva la necessità di verificare le IA. E ho scoperto che dovevo verificare anche le IA che stavano verificando l’IA.

Ma forse proprio qui sta il risultato.

Alla fine, quindi, le sette peer review ci hanno detto qualcosa sull’articolo, ma ci hanno soprattutto dato nuovo materiale per continuare a interrogare quel singolare modo di “pensare” che produce risposte tanto simili alle nostre attraverso processi che non possiamo semplicemente assimilare ai nostri.

Più interlocutori artificiali possono farci vedere più cose. Nessuno di loro ci solleva dalla responsabilità di decidere che cosa farne.

L’IA può ampliare lo spazio del pensiero.

Il giudizio resta nostro.

Documentazione: le review delle sette IA