Con l’IA presto produrremo tutti le stesse cose?

In breve

L’IA rende straordinariamente facile produrre testi, immagini e altri artefatti, ma proprio questa abbondanza apre due questioni: la standardizzazione delle forme con cui esprimiamo il pensiero e la sovrapproduzione di contenuti che competono per un’attenzione umana limitata. La risposta non consiste semplicemente nel chiedere alle macchine prodotti più originali. Diventa invece decisivo ciò che mettiamo noi nel processo: esperienze, scelte, giudizio, voce personale. La qualità dell’uso dell’IA non dipende soltanto da ciò che la macchina produce, ma soprattutto da ciò che il suo uso mette in movimento nella persona.

Il paradosso dell’abbondanza nell’epoca dell’IA

L’intelligenza artificiale generativa ha reso straordinariamente facile produrre testi, immagini, presentazioni, codice, materiali didattici e molti altri artefatti. È una possibilità potente, della quale faccio uso anch’io.

Ma proprio questa facilità apre una questione che merita di essere osservata: quando una parte crescente di ciò che produciamo viene fatta fare alle stesse macchine, i prodotti tendono ad assomigliarsi. E quando produrre costa pochissimo, tendiamo anche a produrre molto di più.

Standardizzazione e sovrapproduzione potrebbero essere due effetti dello stesso fenomeno.

Non considero tutto questo un “problema” dell’IA. Preferisco parlare di questione: qualcosa che sta accadendo, che presenta opportunità e criticità e che soprattutto richiede di essere compreso.

La domanda che attraversa queste riflessioni è quindi:

che cosa accade a una cultura quando produrre artefatti culturali diventa facile, veloce e quasi gratuito?

Quando diventa facile far fare

Con l’IA generativa possiamo produrre in pochi minuti ciò che fino a pochi anni fa avrebbe richiesto ore di lavoro o competenze specialistiche.

Possiamo far scrivere un testo, costruire una presentazione, generare un’immagine, preparare una lezione, sviluppare del codice, creare una brochure.

Uso volutamente l’espressione far fare, anziché delegare.

Delegare presuppone una decisione: c’è qualcosa che potrei fare personalmente e che, per determinate ragioni, decido di affidare ad altri. Far fare descrive meglio una pratica che può diventare ordinaria, quasi automatica: mi serve qualcosa, chiedo alla macchina di produrla.

Non c’è nulla di necessariamente negativo in questo. Anch’io utilizzo l’IA per produrre artefatti che non sarei tecnicamente in grado di realizzare.

Ma quando milioni di persone cominciano a fare la stessa cosa attraverso un numero relativamente limitato di sistemi generativi, succede qualcosa che merita attenzione.

Molti prodotti, poche impronte

Cominciamo a riconoscerli.

Un testo “da ChatGPT”. Una card “fatta con l’IA”. Una presentazione che sembra costruita con gli stessi criteri di molte altre.

Naturalmente non tutti gli artefatti generati dall’IA sono uguali e modelli diversi possono produrre risultati molto differenti. Inoltre una persona esperta può orientare fortemente il risultato.

Il fenomeno, però, rimane.

Milioni di persone utilizzano gli stessi sistemi di IA per produrre testi, immagini e altri artefatti.

Questi sistemi possono generare una varietà enorme di risultati, ma lo fanno sulla base delle regolarità apprese durante l’addestramento, producendo forme credibili proprio perché ricorrono a strutture, associazioni e soluzioni consolidate. Questa efficacia può però favorire la ricorrenza delle stesse soluzioni: strutture dei testi, ritmi argomentativi, formule linguistiche, estetiche visive, modi di organizzare le informazioni.

È un primo livello di standardizzazione.

Ma fermarsi qui significherebbe cogliere soltanto la superficie del fenomeno.

Non soltanto prodotti che si assomigliano

La questione diventa più interessante quando passiamo dalla forma degli artefatti alle forme attraverso cui organizziamo e rappresentiamo il pensiero.

Una voce personale non è costituita soltanto dalle idee che esprime. È anche il modo particolare con cui quelle idee vengono organizzate, collegate, enfatizzate, lasciate talvolta irrisolte. Contiene preferenze linguistiche, cambi di ritmo, insistenze, deviazioni, perfino imperfezioni.

La macchina tende invece a levigare.

E se una parte crescente della produzione culturale passa attraverso pochi sistemi generativi, possiamo allora porci una domanda più radicale:

che cosa accade alla varietà culturale non soltanto dei prodotti, ma dei modi stessi di rappresentare, organizzare e rendere comunicabile il pensiero?

Potremmo trovarci davanti a un paradosso.

Una tecnologia capace di produrre una varietà praticamente illimitata di artefatti potrebbe contribuire contemporaneamente a una maggiore uniformità delle forme culturali attraverso cui quegli artefatti vengono costruiti.

L’IA, quindi, non rischia soltanto di farci esprimere cose simili. Può contribuire a farci esprimere cose diverse in modi sempre più simili.

E non siamo più soltanto davanti a un’eventualità o a un rischio futuro. I primi effetti di questa standardizzazione sono già riconoscibili nei testi, nelle immagini e negli altri artefatti che popolano il nostro ambiente comunicativo.

Quando la buona forma diventa abbondante

C’è poi un’altra conseguenza.

Per molto tempo produrre un artefatto di buona qualità formale richiedeva competenza, tempo e lavoro. Scrivere un testo ben strutturato, realizzare una buona immagine, impaginare una pubblicazione, preparare una presentazione professionale costituivano attività costose.

L’IA riduce drasticamente questi costi.

Questo è indubbiamente un vantaggio. Ma produce anche un effetto curioso: la buona forma diventa abbondante.

Possiamo essere circondati da testi corretti, immagini gradevoli, presentazioni ordinate, documenti ben impaginati. Tutto appare sufficientemente professionale.

La qualità formale, che prima poteva essere almeno un indizio della cura investita in un prodotto, perde parte del proprio valore come criterio di selezione: se quasi tutto può apparire ben scritto, ben costruito e professionalmente presentato, la buona forma non ci aiuta più a distinguere ciò che ha davvero valore da ciò che è soltanto ben confezionato.

Il problema si sposta.

Non è più soltanto: come posso produrre qualcosa di buona qualità?

Diventa:

tra tutte le cose di buona qualità formale che possono essere prodotte, quali hanno davvero qualcosa da dire?

Quando tutto può sembrare ben fatto, essere ben fatto non basta più per distinguere ciò che vale.

Il costo della produzione crolla, quello dell’attenzione no

La stessa dinamica conduce alla sovrapproduzione.

Se produrre una card richiedeva un’ora, probabilmente ci si chiedeva se valesse la pena farla. Se richiede trenta secondi, possiamo produrne dieci.

Se preparare una guida di trenta pagine richiedeva giorni di lavoro, esisteva un costo che funzionava anche, involontariamente, come filtro. Oggi quel filtro si sta indebolendo.

Posso produrlo rischia facilmente di trasformarsi in lo produco. La domanda vale la pena produrlo? scompare: lo facciamo anzi, lo facciamo fare senza esitazione.

Ma dall’altra parte del processo c’è qualcuno che dovrebbe leggere, guardare, ascoltare, valutare ciò che abbiamo prodotto.

E qui compare un’asimmetria fondamentale:

l’IA riduce drasticamente il costo della produzione, ma non riduce il costo dell’attenzione.

Possiamo produrre in pochi secondi un testo che richiederà comunque tempo e risorse cognitive per essere letto, compreso e valutato. Mentre la capacità di generare contenuti cresce enormemente, il tempo e l’attenzione di chi dovrebbe fruirne rimangono limitati.

La facilità di produrre rischia così di scaricare sugli altri il costo di selezionare ciò a cui valga la pena prestare attenzione.

Più cresce la quantità di ciò che viene prodotto, più aumenta la competizione per un’attenzione umana che rimane limitata. E quando troppe cose chiedono continuamente la nostra attenzione, diventa anche più difficile che ciascuna riesca davvero a suscitare interesse.

La sovrapproduzione genera quindi una nuova forma di scarsità: la scarsità dell’attenzione.

Forse una parte importante della competenza culturale nell’epoca dell’IA non consisterà più nel riuscire a produrre, ma nel sapere che cosa merita di essere prodotto, che cosa merita di essere pubblicato, che cosa merita di essere letto e che cosa può tranquillamente non esistere.

Un caso reale: quando il problema diventa non sembrare IA

Mentre stavo sviluppando queste riflessioni mi sono imbattuto nella pubblicità, pubblicata su Facebook, di un corso rivolto agli insegnanti.

Il confronto proposto era esplicito: da una parte ChatGPT, accusato di produrre testi riconoscibili per strutture ricorrenti, “stessi giri di frase” e uno stile che richiederebbe successive riscritture; dall’altra Claude, presentato come capace di adattare tono e registro e soprattutto di produrre materiale “pronto all’uso, senza passaggi di umanizzazione”.

Emblematica l’affermazione:

«E così i tuoi alunni capiscono in 60 secondi se un testo l’ha scritto ChatGPT.»

Qui la questione cambia natura. Il problema non sembra essere che l’insegnante abbia fatto produrre alla macchina un testo standardizzato, né che abbia rinunciato a imprimervi il proprio pensiero professionale. Il problema diventa che gli studenti se ne accorgono.

La soluzione proposta non consiste quindi nel restituire all’insegnante un ruolo più forte nella costruzione dell’artefatto, ma nell’utilizzare un’altra IA capace di cancellare meglio le proprie tracce. Non si cerca un prodotto più autenticamente personale: si cerca un prodotto artificiale più difficilmente riconoscibile come artificiale.

E questo introduce una questione che non è più soltanto stilistica o didattica, ma anche educativa: perché un insegnante dovrebbe voler far credere ai propri studenti di aver prodotto personalmente qualcosa che ha invece fatto produrre a una macchina?

Ancora più singolare è l’affermazione secondo cui Claude «scrive come un docente vero, non come un robot». Ma un docente vero non è riconoscibile semplicemente perché evita certe formule linguistiche o varia il registro. È un docente vero perché nel materiale che costruisce entrano la conoscenza dei propri studenti, le decisioni maturate durante il percorso, ciò che è successo in classe, le proprie convinzioni didattiche, i propri errori, le proprie intenzioni.

Un’IA può produrre qualcosa che assomiglia al lavoro di un insegnante. Ma assomigliare al suo prodotto non significa aver incorporato il processo professionale che lo ha generato: la conoscenza degli studenti, le scelte didattiche, l’esperienza, le intenzioni e il giudizio dell’insegnante.

Infine, ciò che viene presentato come massimo vantaggio dovrebbe forse essere letto come il più grande campanello d’allarme: «Pronto all’uso, senza passaggi di “umanizzazione”».

L’intervento umano viene qui rappresentato quasi come un difetto del processo produttivo: un passaggio aggiuntivo, una perdita di tempo che una macchina migliore permetterebbe finalmente di eliminare. Ma se stiamo parlando di insegnamento, proprio quel “passaggio di umanizzazione” — espressione involontariamente felicissima — potrebbe essere la parte professionalmente più importante dell’intero processo.

Il caso mi interessa non per discutere quale dei due sistemi sia migliore. Modelli differenti possono certamente presentare comportamenti differenti e le loro caratteristiche cambiano rapidamente.

Mi interessa perché rende visibile una particolare risposta alla standardizzazione.

Se una macchina produce artefatti troppo riconoscibili come artificiali, la soluzione sarebbe utilizzare una macchina che li produca in modo meno riconoscibile.

Sarebbe quasi comico rispondere alla standardizzazione prodotta dalle macchine chiedendo alle macchine di standardizzarsi un po’ meno.

Qui si fa persino un passo ulteriore: si chiede alla macchina di nascondere meglio di essere una macchina.

La questione più profonda, però, è un’altra.

Nascondere le tracce della macchina non significa far emergere le tracce della persona, dell’insegnante.

Un testo può non contenere nessuno dei tic stilistici normalmente associati all’IA e continuare a essere un prodotto nel quale è entrato pochissimo dell’insegnante che lo utilizzerà.

Materia, grado scolastico, età degli studenti, tono e registro possono contestualizzare un output. Ma contestualizzare non equivale a renderlo espressione della professionalità di uno specifico insegnante che lavora con una specifica classe.

Il criterio cambia allora radicalmente.

La domanda interessante non è:

quanto è difficile accorgersi che questo artefatto è stato prodotto da una macchina?

Ma:

quanto è possibile accorgersi che questo artefatto appartiene proprio alla persona che lo firma?

“Pronto all’uso”

C’è poi un secondo aspetto del caso, diverso dalla riconoscibilità del prodotto, che trovo ancora più significativo: la promessa del “pronto all’uso”.

È una promessa comprensibile. Uno strumento è tanto più utile quanto più lavoro riesce a risparmiarci.

Ma in educazione il lavoro risparmiato non è sempre soltanto un costo.

Preparare una lezione significa anche interrogarsi sugli studenti, anticipare difficoltà, scegliere esempi, stabilire priorità, collegare ciò che si farà domani a ciò che è successo ieri, prendere decisioni didattiche.

Se tutto questo viene compresso nella richiesta rivolta a una macchina e nel successivo utilizzo del prodotto, ciò che abbiamo risparmiato potrebbe comprendere anche una parte dell’attività professionale attraverso cui l’insegnante pensa il proprio insegnamento.

Non si tratta quindi di difendere la fatica in quanto tale.

Si tratta di distinguere la fatica inutile dal lavoro cognitivo che costruisce competenza.

Le contromisure umane

Se questa analisi ha qualche fondamento, la risposta alla standardizzazione non può consistere soltanto nel perfezionare le istruzioni date alle macchine per ottenere prodotti meno standardizzati.

Le contromisure che mi interessano sono soprattutto umane.

La prima consiste nel portare nella conversazione qualcosa che esista prima dell’IA: un’esperienza, un problema, una posizione, una conoscenza, un dubbio autentico.

La seconda consiste nel non chiedere sistematicamente alla macchina il prodotto finito, ma farla entrare in un processo: discutere, confrontare, mettere alla prova, cercare alternative, contestare una risposta, riformulare il problema.

Poi occorre preservare qualcosa delle nostre irregolarità. Non tutto ciò che può essere levigato deve necessariamente esserlo. Una voce personale contiene anche discontinuità, preferenze, insistenze e modi di dire che una normalizzazione sistematica può progressivamente cancellare.

Occorre inoltre reintrodurre il mondo reale: esperienze realmente vissute, persone incontrate, pratiche professionali, luoghi, letture, errori, tentativi. La macchina può produrre linguisticamente qualcosa che assomiglia all’esperienza; non possiede però quella esperienza.

Ma la contromisura forse più importante riguarda la sovrapproduzione.

Dobbiamo imparare a selezionare invece di continuare a generare.

Alla capacità generativa della macchina deve corrispondere una capacità selettiva della persona.

Talvolta significa sottrarre. Talvolta significa fermarsi. Talvolta significa decidere che una cosa che potremmo facilmente produrre non merita di essere prodotta.

Nell’epoca dell’IA, una nuova competenza potrebbe essere proprio la capacità di non produrre.

E qualche volta può essere sensato scegliere di fare personalmente qualcosa che una macchina saprebbe fare meglio.

Non per nostalgia artigianale, né perché la fatica abbia un valore morale.

Semplicemente perché fare lascia qualcosa in chi fa.

Uso povero, uso ricco: una vecchia distinzione ritorna

Quasi vent’anni fa, ragionando sull’uso delle tecnologie nella didattica, utilizzavo insieme a Egon Gastaldelli, uno studente in tesi che seguivo, una distinzione tra usi didattici poveri e usi didattici ricchi delle tecnologie.

Nel 2008, nell’analisi qualitativa del progetto Pionieri (un progetto pluriennale di formazione degli insegnanti a Bolzano) definivamo povero l’uso nel quale le tecnologie erano impiegate prevalentemente dall’insegnante per sviluppare e gestire contenuti, organizzare attività, distribuire materiali e compiti. Parlavamo invece di uso ricco quando le tecnologie entravano direttamente nei processi di apprendimento degli studenti, inducendoli a pensare, riflettere, argomentare, costruire e rappresentare le proprie conoscenze.

La stessa tecnologia poteva quindi essere povera o ricca a seconda dell’attività nella quale veniva inserita.

Una mappa mentale costruita dall’insegnante e consegnata agli studenti come riassunto era un uso povero. La stessa mappa costruita dagli studenti per organizzare e rappresentare la propria conoscenza diventava un uso ricco.

Non era lo strumento a essere povero o ricco.

Era ciò che lo strumento metteva in movimento nella persona.

Quella distinzione mi sembra oggi ancora più importante.

Possiamo fare un uso tecnicamente sofisticatissimo dell’IA, utilizzando prompt elaborati e procedure complesse, e farne comunque un uso cognitivamente povero se il risultato principale consiste nell’ottenere dalla macchina prodotti sostitutivi della nostra attività .

E possiamo fare un uso tecnicamente elementare — una semplice conversazione con un modello linguistico — e farne un uso ricco se quella conversazione ci porta a precisare un’idea, scoprire una contraddizione, formulare una distinzione, cambiare rappresentazione del problema, mettere alla prova ciò che pensiamo.

La qualità dell’output non risolve la questione.

Anzi, proprio qui emerge un paradosso che l’IA rende molto più evidente di quanto fosse nel 2008:

quanto più la macchina diventa capace, tanto più diventa facile farne un uso povero.

Se una macchina produce una lezione mediocre, sono costretto a intervenire. Se produce una lezione eccellente e “pronta all’uso”, la tentazione di non intervenire affatto diventa molto più forte.

Il progresso delle capacità della macchina non comporta quindi automaticamente un progresso nella qualità del suo uso.

La sfida non è rendere meno capaci le macchine.

È rendere più ricco ciò che facciamo noi con le loro capacità.