Cosa si perde con l’IA?

In breve

L’IA può farci ottenere risultati migliori, più rapidamente e con meno fatica, ma proprio per questo può sottrarci qualcosa dei processi attraverso i quali costruiamo capacità, sapere ed esperienza. Possiamo perdere esercizio e occasioni di imparare, l’abitudine alla fatica, l’esperienza del fare e l’iniziativa cognitiva; possiamo arrivare a presentare come nostri prodotti nei quali sono sempre meno riconoscibili il nostro pensiero, la nostra voce e la nostra individualità. Guardando deliberatamente soltanto a ciò che possiamo perdere, senza controbilanciarlo qui con i possibili benefici, queste perdite diverse sembrano convergere verso una stessa possibilità: possiamo perdere tracce di noi.

Perdiamo tracce di noi

Questo articolo è deliberatamente parziale.

Come nell’articolo parallelo, Cosa si guadagna con l’IA, non cercherò di costruire un bilancio equilibrato. Là ho scelto di guardare soltanto a ciò che l’IA rende possibile, senza accompagnare ogni beneficio con un «però» e senza ricordare continuamente i rischi.

La conclusione era semplice: con l’IA guadagniamo possibilità.

Qui farò l’operazione opposta.

Guarderò soltanto a ciò che possiamo perdere.

Non significa che queste perdite siano inevitabili. Non significa neppure che ogni uso dell’IA le produca. Significa prenderle sul serio, una alla volta, senza attenuarle immediatamente ricordando tutto ciò che contemporaneamente possiamo guadagnare.

Anche questa è una scelta deliberatamente radicale.

Alla fine proveremo a ricongiungere i due sguardi.

Ma prima dobbiamo avere il coraggio di separarli.

Possiamo perdere esercizio e capacità

È la perdita più evidente.

Ciò che non facciamo più, non lo esercitiamo più.

Se smettiamo di scrivere perché qualcuno scrive per noi, esercitiamo meno la scrittura. Se deleghiamo la sintesi, esercitiamo meno la capacità di distinguere ciò che è essenziale da ciò che non lo è. Se affidiamo sistematicamente ad altri la formulazione di un problema, la ricerca di alternative, l’organizzazione di un ragionamento, esercitiamo meno quelle capacità.

E ciò che non esercitiamo può indebolirsi.

C’è poi un problema ancora precedente: possiamo delegare qualcosa prima ancora di aver imparato a farlo.

In quel caso non perdiamo una capacità che avevamo. Rischiamo semplicemente di non costruirla.

Questo a scuola diventa particolarmente importante. Molte attività che possono sembrare inutilmente laboriose hanno senso proprio perché obbligano lo studente a esercitare una capacità.

Se guardiamo soltanto al prodotto, l’IA può rendere superfluo quel lavoro.

Se guardiamo alla persona che dovrebbe imparare, potrebbe essere proprio quel lavoro a non essere affatto superfluo.

Possiamo perdere l’abitudine alla fatica

La fatica non è un valore in sé.

Non c’è alcun merito nel fare con grande fatica qualcosa che possiamo fare facilmente. Se una macchina mi evita un lavoro inutile, non vedo perché dovrei rimpiangerlo.

Ma non tutta la fatica è inutile.

Ci sono cose che comprendiamo proprio perché abbiamo dovuto insistere. Problemi sui quali abbiamo sostato a lungo. Testi che abbiamo dovuto leggere due o tre volte. Formulazioni che abbiamo scritto, cancellato e riscritto. Soluzioni che abbiamo cercato senza trovarle immediatamente.

La difficoltà ci costringe qualche volta a rimanere dentro un problema più a lungo di quanto vorremmo.

E quel tempo può essere cognitivamente produttivo.

L’IA è straordinariamente efficace nell’eliminare molte di queste fatiche. Possiamo ottenere rapidamente una spiegazione, una sintesi, una soluzione, una prima formulazione.

Ma se ci abituiamo ad aggirare sistematicamente ogni difficoltà, possiamo perdere qualcosa di importante: l’abitudine a sostenere la fatica quando la fatica è necessaria.

Non tutto ciò che vale la pena capire si lascia capire immediatamente.

Possiamo perdere occasioni di imparare

Una difficoltà non è soltanto un ostacolo.

Può essere un’occasione di apprendimento.

Nell’articolo sui guadagni ho raccontato un’esperienza che conosco bene: usare l’IA come tutor per imparare qualcosa che non so fare. Posso chiederle di accompagnarmi passo dopo passo, provare, sbagliare, mostrarle che cosa non funziona, farmi spiegare nuovamente il passaggio che non ho capito.

In quel caso l’IA trasforma una difficoltà in un percorso di apprendimento.

Ma posso usare esattamente la stessa IA in modo opposto.

Posso dirle semplicemente: fallo tu.

La difficoltà scompare.

E insieme alla difficoltà può scomparire l’occasione di imparare qualcosa attraversandola.

La stessa tecnologia può quindi fare due cose radicalmente diverse: aiutarmi a superare una difficoltà imparando oppure eliminare la difficoltà evitando che io debba imparare.

È una differenza enorme.

Possiamo perdere sapere

Abbiamo accesso a una quantità di conoscenza che nessuna generazione precedente ha avuto a disposizione.

E proprio per questo può diventare meno evidente la necessità di sapere.

Perché dovrei ricordare qualcosa che posso recuperare in pochi secondi? Perché dovrei costruire dentro di me conoscenze che posso interrogare quando mi servono?

Ma avere accesso al sapere non significa sapere.

Il sapere non serve soltanto per fornire risposte.

Serve per capire una nuova informazione. Per collegarla ad altre. Per riconoscere un’anomalia. Per accorgersi che qualcosa non torna. Per formulare una domanda che abbia senso. Per distinguere una spiegazione plausibile da una spiegazione convincente.

Possiamo avere a disposizione una quantità crescente di conoscenza e contemporaneamente possederne sempre meno.

E c’è un paradosso: proprio per interrogare bene tutta quella conoscenza disponibile fuori di noi abbiamo bisogno di qualcosa dentro di noi con cui interrogarla.

Possiamo perdere l’esperienza del fare

Quando facciamo qualcosa, non produciamo soltanto un risultato.

Fare lascia qualcosa in chi fa.

Quando scrivo un testo, alla fine esiste un testo. Ma durante la scrittura è successo qualcosa anche a me.

Ho dovuto scegliere. Ho scoperto che una frase non diceva quello che pensavo. Ho cancellato. Ho spostato un paragrafo. Mi sono accorto che due idee che credevo coerenti non lo erano. Cercando una parola ho precisato un pensiero.

Quando risolvo un problema, non rimane soltanto la soluzione.

Rimane anche l’esperienza di averlo risolto.

Quando cerco, provo, sbaglio, torno indietro e riparto, il processo lascia qualcosa in me.

Il fare produce due risultati: qualcosa fuori di noi e qualcosa dentro di noi.

L’IA può permetterci di ottenere il primo senza attraversare tutto il processo che avrebbe prodotto il secondo.

Possiamo avere il testo senza aver fatto esperienza della scrittura.

La soluzione senza aver fatto esperienza della ricerca.

Il progetto senza aver fatto esperienza della progettazione.

Il prodotto rimane.

Ma una parte di ciò che il produrlo avrebbe lasciato in noi può non esserci più.

Possiamo perdere autorialità

Con l’IA possiamo produrre testi eccellenti.

Possiamo anche rilasciare come nostri testi che non sono per niente nostri.

Non perché non abbiamo materialmente premuto i tasti con cui sono state scritte le parole. L’autorialità non può essere ridotta alla digitazione.

Un testo è mio perché dentro quel testo ci sono decisioni mie.

Ho definito il problema. Ho scelto che cosa fosse importante. Ho costruito un’argomentazione. Ho escluso alcune possibilità. Ne ho preferite altre. Ho cercato una forma capace di rappresentare ciò che volevo dire. Alla fine mi assumo il significato di ciò che ho scritto.

Con l’IA possiamo progressivamente delegare tutte queste operazioni.

Possiamo chiederle di trovare l’idea.

Poi di svilupparla.

Poi di costruire la struttura.

Poi di argomentare.

Poi di migliorare l’argomentazione.

Poi di trovare il tono più efficace.

Alla fine possiamo leggere il testo, trovarlo buono e firmarlo.

Formalmente è nostro.

Ma quanto di noi c’è ancora dentro?

Possiamo perdere la nostra individualità

Ognuno di noi lascia tracce in ciò che fa.

Non soltanto quando realizza un’opera d’arte.

Le lascia in una mail, in una spiegazione, in una presentazione, nel modo in cui organizza un problema, nelle parole che usa troppo spesso, nelle associazioni improbabili che gli vengono in mente.

Anche le nostre imperfezioni parlano di noi.

Abbiamo fissazioni, preferenze, deviazioni, idiosincrasie. Vediamo alcune cose e ne trascuriamo altre. Colleghiamo concetti che qualcun altro non avrebbe collegato.

È anche così che diventiamo riconoscibili.

L’IA può aiutarci a esprimere meglio questa individualità.

Ma può anche progressivamente sostituirla con formulazioni più efficaci, strutture più ordinate, argomentazioni più prevedibili, soluzioni statisticamente più probabili.

Il problema allora non è soltanto che i prodotti rischiano di assomigliarsi.

È che in quei prodotti possono rimanere sempre meno tracce di chi li presenta come propri.

Possiamo produrre cose formalmente migliori e contemporaneamente diventare meno riconoscibili dentro ciò che produciamo.

Possiamo avvicinarci a una forma di anonimato sostanziale.

Possiamo perdere il dono dell’incertezza

Non sapere è scomodo.

Quando abbiamo una domanda vogliamo una risposta. Quando incontriamo un problema vogliamo una soluzione.

L’IA è una macchina straordinariamente disponibile a riempire questi vuoti.

Ma l’incertezza non è soltanto un difetto temporaneo della nostra conoscenza.

Qualche volta è uno spazio generativo.

Non sapere ancora che cosa pensiamo ci costringe a continuare a pensare.

Tenere aperte due interpretazioni ci impedisce di chiudere troppo presto una questione.

Lasciare una domanda senza risposta permette qualche volta che quella domanda continui a lavorare dentro di noi.

Ci sono pensieri che hanno bisogno di tempo.

L’IA tende invece a rispondere. È quello che le chiediamo ed è ciò che sa fare molto bene.

Possiamo così perdere il dono dell’incertezza: non l’incertezza stessa, che naturalmente continuerà a esistere, ma la nostra disponibilità ad abitarla.

Possiamo disabituarci a dire:

non lo so ancora.

Possiamo perdere iniziativa cognitiva

Possiamo delegare all’IA una risposta.

Ma possiamo delegarle qualcosa che viene ancora prima.

La domanda.

«Dammi qualche idea.»

«Come potrei affrontare questo problema?»

«Quali alternative dovrei considerare?»

«Come imposteresti questo articolo?»

«Che cosa mi sto dimenticando?»

Sono richieste utilissime. Proprio per questo è facile farne un uso sistematico.

Ma se ogni volta che ci troviamo davanti a uno spazio vuoto chiediamo alla macchina di riempirlo per prima, possiamo perdere l’abitudine a produrre noi il primo movimento.

Non significa perdere la capacità di scegliere tra alternative.

È qualcosa di precedente.

Significa lasciare progressivamente a qualcun altro il compito di aprire lo spazio dentro il quale poi sceglieremo.

Possiamo continuare a decidere.

Ma decidere sempre più spesso fra possibilità che non abbiamo generato noi.

Possiamo perdere una rappresentazione autentica di noi stessi

C’è infine una perdita più difficile da vedere.

Con l’IA possiamo produrre prestazioni che eccedono enormemente le nostre capacità personali.

Possiamo scrivere in una lingua che conosciamo poco. Produrre codice che non sapremmo costruire. Argomentare utilizzando conoscenze che non possediamo. Realizzare analisi che non saremmo capaci di condurre autonomamente.

È uno dei grandi guadagni dell’IA: allarga il perimetro di ciò che possiamo fare.

Ma proprio per questo può diventare più difficile distinguere ciò che possiamo ottenere da ciò che sappiamo, comprendiamo e sappiamo fare.

E non è soltanto un problema per chi deve valutarci.

Può diventare un problema per noi stessi.

Il prodotto che presentiamo agli altri costruisce un’immagine di noi.

Che cosa accade quando quell’immagine incorpora capacità che non possediamo, pensieri che non abbiamo elaborato, parole che non avremmo saputo trovare, argomentazioni che non avremmo saputo costruire?

Non dobbiamo necessariamente avere intenzione di ingannare qualcuno.

Possiamo semplicemente abituarci a identificarci con ciò che riusciamo a produrre attraverso la macchina.

Ma il prodotto può raccontare una persona che, almeno in parte, non esiste.

Perdiamo tracce di noi

Siamo partiti da perdite apparentemente circoscritte.

Possiamo esercitare meno alcune capacità. Possiamo disabituarci alla fatica. Possiamo perdere occasioni di imparare e possedere meno sapere.

Poi siamo andati più in profondità.

Possiamo fare meno esperienza dei processi che conducono ai risultati. Possiamo essere meno autori di ciò che firmiamo. Possiamo lasciare meno della nostra individualità nelle cose che produciamo. Possiamo tollerare meno l’incertezza. Possiamo delegare persino l’iniziativa del pensiero.

Fino ad arrivare a qualcosa che riguarda direttamente il nostro modo di rappresentarci.

Forse queste perdite hanno qualcosa in comune.

Perdiamo tracce di noi.

Fare lascia qualcosa in chi fa.

Ma accade anche il contrario:

chi fa lascia qualcosa di sé in ciò che fa.

Sono due tracce.

Una rimane dentro di noi: ciò che abbiamo imparato, esercitato, scoperto, modificato in noi stessi attraverso l’esperienza.

L’altra rimane fuori di noi: le nostre scelte, la nostra voce, le nostre imperfezioni, il nostro modo particolare di guardare le cose.

Quando l’IA entra sempre più profondamente nel processo, possiamo perdere entrambe.

Può rimanere meno del fare dentro di noi.

E può rimanere meno di noi dentro ciò che facciamo.

Possiamo così arrivare a un paradosso.

Con l’IA possiamo fare sempre di più mentre noi siamo presenti sempre di meno in ciò che facciamo.