Che cosa possiamo delegare all’IA senza smettere di imparare a pensare?

In breve

Delegare all’IA alcune attività cognitive non significa necessariamente smettere di pensare. Il problema è capire quali operazioni possiamo affidarle senza perdere le capacità necessarie per comprendere, interrogare e valutare ciò che produce. Non tutto deve rimanere nella nostra mente, ma dobbiamo conservare abbastanza conoscenza e competenza per utilizzare consapevolmente quella disponibile all’esterno. Il criterio non è quindi “non delegare”, ma distinguere tra una delega che estende le nostre possibilità e una delega che, progressivamente, ci rende incapaci di governarle.

Il contesto

Negli articoli precedenti siamo tornati più volte, da prospettive diverse, sulla possibilità di affidare all’intelligenza artificiale una parte del lavoro cognitivo, lasciando alla persona ciò che è più importante per pensare e apprendere. Abbiamo parlato di conoscenza interna e informazioni esternalizzate, Mindtools, carichi cognitivi produttivi e improduttivi, scaffolding, autorialità. Ma abbiamo lasciato aperta una domanda:

con quale criterio possiamo stabilire che cosa delegare e che cosa non delegare?

Dire che possiamo affidare alla macchina i carichi cognitivi improduttivi per dedicare le nostre risorse a un pensiero più produttivo non basta: dobbiamo stabilire che cosa sia, nelle diverse situazioni, cognitivamente produttivo.

È la questione che affrontiamo in questo articolo:

Con quale criterio possiamo stabilire quali attività cognitive possano essere delegate all’IA senza impoverire il pensiero e l’apprendimento della persona, e quali invece debbano essere esercitate dalla persona proprio perché è attraverso il loro esercizio che si costruiscono conoscenza, competenza e capacità di pensare?

La domanda, dunque, non è che cosa l’IA sia capace di fare, ma che cosa possiamo permetterci di non fare più personalmente senza perdere qualcosa che, per imparare e pensare, abbiamo bisogno di costruire dentro di noi.

Le scelte

Non esiste una linea universale che separi ciò che dovrebbe essere delegato all’IA da ciò che dovrebbe rimanere alla persona. Tracciarla implica scelte culturali, educative, sociali e, inevitabilmente, politiche. Dichiariamo quindi le nostre.

Attribuiamo alla scuola non soltanto il compito di preparare alle attività professionali, ma una funzione democratica ed emancipativa: mettere ogni persona nelle condizioni di comprendere il mondo, formulare giudizi propri e partecipare consapevolmente alla vita sociale.

Riteniamo perciò che debba esistere una base di conoscenze e di strumenti di pensiero che appartenga a ogni persona, indipendentemente dal percorso che seguirà e dal fatto che quelle conoscenze o operazioni possano essere rese disponibili da una tecnologia. Su questa base comune si innesteranno le conoscenze e le competenze specifiche dei diversi percorsi di studio e professionali. Chi opera in un dominio dovrà inoltre possedere quanto gli è necessario per comprendere e controllare ciò che affida alla macchina.

Il confine che cercheremo di tracciare sarà dunque argomentato, non universale, conseguente alla concezione di persona, apprendimento e scuola che abbiamo scelto di assumere. Altre premesse potrebbero legittimamente collocarlo altrove.

Sei criteri per decidere che cosa delegare

1. Che cosa significa davvero “carico cognitivo improduttivo”?

David Jonassen sosteneva che le tecnologie, utilizzate come partner intellettuali, consentono di scaricare sul computer alcuni carichi cognitivi improduttivi, lasciando alla persona maggiori risorse per un pensiero più produttivo.

Con i Mindtools tradizionali la distinzione appariva relativamente semplice: il computer poteva memorizzare dati, eseguire calcoli, ordinare informazioni e rappresentare relazioni; alla persona rimanevano le attività attraverso le quali quei dati acquistavano significato.

Con l’IA generativa questa divisione non regge più. Possiamo delegare anche sintesi, confronto, spiegazione, argomentazione, formulazione di ipotesi, scrittura: attività difficilmente classificabili in sé come cognitivamente “improduttive”.

La stessa attività, infatti, può assumere valori diversi. Memorizzare cinquanta numeri telefonici ha probabilmente scarso valore formativo; possedere in memoria i concetti fondamentali di un dominio può essere indispensabile per riconoscere relazioni o accorgersi di un’incongruenza. Eseguire cento divisioni quando l’algoritmo è padroneggiato può aggiungere poco all’apprendimento; farlo mentre si sta costruendo il concetto di divisione può essere essenziale.

Criterio 1 — La produttività cognitiva non è una proprietà dell’attività, ma della relazione tra quell’attività e la trasformazione che vogliamo produrre nella persona.

Produttivo non significa difficile, creativo o sofisticato. Significa generativo dell’apprendimento che perseguiamo.

2. Non conta soltanto che cosa si fa, ma chi lo fa e perché

Stabilire l’obiettivo dell’apprendimento è indispensabile, ma non sufficiente. Dobbiamo considerare anche chi svolge l’attività e a quale punto si trova nello sviluppo della propria competenza.

Supponiamo che uno studente debba scrivere un testo sulla Rivoluzione francese. Se l’obiettivo è imparare a costruire un testo argomentativo, decidere la struttura, organizzare le idee e costruire connessioni sono parte dell’apprendimento. Delegarle all’IA significa sottrarre allo studente una parte del lavoro attraverso il quale dovrebbe costruire quella competenza.

Se l’obiettivo fosse invece confrontare differenti interpretazioni storiografiche, parte della produzione linguistica potrebbe essere delegata e il lavoro dello studente concentrarsi sul confronto.

Anche questo dipende però dalla competenza posseduta. Per chi sta imparando a scrivere, cercare una formulazione è lavoro cognitivo produttivo. Uno scrittore esperto può chiedere all’IA formulazioni alternative e concentrarsi sulla loro valutazione perché possiede conoscenze ed esperienza sufficienti per giudicarle.

Criterio 2 — Possiamo delegare più facilmente ciò che sappiamo già fare e sul cui risultato siamo in grado di esercitare un controllo competente.

Ciò che può essere delegato dall’esperto può essere precisamente ciò che il novizio deve ancora fare personalmente per diventare esperto.

3. Delegare non significa necessariamente pensare meno

Non ne consegue che, per proteggere l’apprendimento, lo studente debba continuare a svolgere personalmente tutto ciò che faceva prima dell’IA.

Delegare può ridurre il lavoro cognitivo, ma può anche spostarlo verso attività più significative.

Possiamo chiedere all’IA di generare quattro spiegazioni dello stesso fenomeno. Se lo studente sceglie semplicemente quella che “gli sembra migliore”, abbiamo probabilmente eliminato lavoro mentale senza sostituirlo. Ma potrebbe confrontare le spiegazioni, individuarne i presupposti, verificarne la coerenza, cercare evidenze, stabilire criteri per valutarle e infine costruirne una propria. Abbiamo delegato la generazione iniziale, ma potremmo aver aumentato il lavoro cognitivo produttivo.

Non basta quindi domandarsi che cosa abbiamo tolto alla persona. Dobbiamo chiederci che cosa le abbiamo dato da fare al suo posto.

Criterio 3 — Un’attività può essere delegata quando le risorse così liberate vengono investite in processi cognitivi maggiormente funzionali all’apprendimento perseguito.

La delega non deve necessariamente eliminare il lavoro cognitivo: può spostarlo e, in alcuni casi, renderlo qualitativamente più significativo.

4. Ciò che deve essere dentro per poter usare ciò che sta fuori

La possibilità di delegare incontra un ulteriore limite: per utilizzare produttivamente ciò che viene dall’esterno dobbiamo possedere qualcosa all’interno.

Negli articoli precedenti abbiamo distinto la conoscenza posseduta dalla persona dalle informazioni che possono essere conservate, recuperate, riorganizzate e generate attraverso sistemi esterni. L’enorme disponibilità di informazioni resa possibile dall’IA potrebbe far pensare che sia sempre meno necessario possedere conoscenze.

Ma per formulare una buona domanda dobbiamo sapere qualcosa dell’argomento. Per comprendere una risposta dobbiamo collegarla a strutture conoscitive già disponibili. Per riconoscere un errore, un’omissione o un’interpretazione discutibile dobbiamo disporre di criteri con cui valutarli.

Questo vale anche per il frequente richiamo al “pensiero critico” come competenza fondamentale nell’uso dell’IA. Non possiamo pensare criticamente nel vuoto. Per valutare dobbiamo sapere qualcosa.

Non tutte le conoscenze possono quindi essere sostituite dalla possibilità di accedere alle informazioni quando servono. Una parte deve essere posseduta dalla persona perché costituisce la struttura attraverso la quale le nuove informazioni vengono comprese e utilizzate.

Le conoscenze disponibili permettono di collegare una nuova informazione a ciò che già sappiamo, valutarne la coerenza, individuare ciò che manca o appare problematico e formulare nuove domande. Quanto più povera è questa struttura interna, tanto più difficile diventa esercitare un controllo consapevole sulle informazioni fornite dall’IA.

Il problema non riguarda quindi soltanto quali informazioni possiamo recuperare all’esterno, ma quali conoscenze devono essere possedute dalla persona affinché il ricorso alle informazioni esterne possa diventare cognitivamente produttivo.

Criterio 4 — Non dovremmo delegare la costruzione delle conoscenze che costituiscono i prerequisiti necessari per comprendere, valutare e utilizzare consapevolmente ciò che chiediamo all’IA.

5. La prova decisiva: che cosa rimane dopo l’assistenza?

Per capire se l’interazione con l’IA produce apprendimento dobbiamo guardare anche a ciò che accade dopo.

Uno studente può riuscire, con l’assistenza dell’IA, a costruire un’argomentazione che non sarebbe capace di produrre autonomamente. Non è necessariamente un problema: molte situazioni di apprendimento assistito ci permettono temporaneamente di operare oltre ciò che sappiamo fare da soli.

La questione è che cosa produce quell’assistenza nel tempo.

Se progressivamente lo studente ha bisogno di meno suggerimenti e aumenta la propria capacità autonoma, l’assistenza ha contribuito allo sviluppo della competenza. Se continua a produrre buone argomentazioni soltanto quando l’IA le costruisce insieme a lui, abbiamo migliorato soprattutto la prestazione assistita.

È la differenza tra scaffolding e protesi permanente.

Non dobbiamo confondere ciò che sa fare lo studente con ciò che sa fare il sistema composto dallo studente e dall’IA. Il prodotto può essere eccellente in entrambi i casi, ma l’apprendimento profondamente diverso.

Criterio 5 — L’assistenza è cognitivamente produttiva quando modifica progressivamente le possibilità della persona, aumentando la sua capacità di affrontare situazioni successive con maggiore comprensione, controllo e autonomia.

La domanda non è soltanto che cosa riesce a fare oggi con l’IA?, ma che cosa saprà fare domani grazie a ciò che oggi ha fatto con l’IA?

6. Una soglia che non dipende soltanto dal singolo apprendimento

Potremmo stabilire la delegabilità esclusivamente sulla base degli obiettivi di apprendimento. Ma le premesse dichiarate all’inizio ci impongono un passo ulteriore.

Riteniamo che alcune conoscenze e alcuni strumenti di pensiero debbano appartenere alla persona non soltanto perché necessari a svolgere uno specifico compito, ma perché fanno parte della dotazione cognitiva necessaria per comprendere il mondo, formulare giudizi propri ed esercitare consapevolmente i diritti di cittadinanza.

Esiste dunque, nella prospettiva che abbiamo scelto, una base comune che precede le differenti specializzazioni. Non significa che tutti debbano sapere tutto, ma che dobbiamo individuare un patrimonio di conoscenze e strumenti di pensiero che debba appartenere a tutti, indipendentemente dal fatto che una tecnologia possa renderlo disponibile al bisogno.

Su questa base si innestano le conoscenze specifiche dei diversi percorsi di studio e professionali. Un cittadino può affidarsi a sistemi esterni per questioni specialistiche estranee al proprio dominio; chi opera professionalmente in quel dominio deve invece possedere le conoscenze e i criteri necessari per comprendere, valutare e assumersi la responsabilità di ciò che delega.

La questione ha inevitabilmente anche una dimensione politica: stabilire quanto debba sapere e saper fare ogni persona significa prendere posizione sulle finalità dell’istruzione e sull’autonomia che vogliamo promuovere. È un tema che merita una trattazione autonoma; qui è sufficiente renderlo esplicito.

Criterio 6 — Non tutto ciò che può essere delegato senza compromettere una prestazione può essere delegato senza impoverire la persona.

Se riteniamo che una conoscenza o uno strumento di pensiero faccia parte della dotazione necessaria per esercitare autonomia, cittadinanza o competenza nel proprio dominio, il fatto che l’IA sappia sostituirlo non è una ragione sufficiente per smettere di costruirlo ed esercitarlo.

Che cosa possiamo delegare all’IA

Possiamo delegare le attività il cui svolgimento personale non contribuisce significativamente all’apprendimento perseguito, oppure quelle che la persona padroneggia già abbastanza da poter controllare con competenza il risultato prodotto dalla macchina.

Possiamo quindi affidare all’IA ricerca, recupero e organizzazione delle informazioni, calcoli e procedure già comprese, prime sintesi, trasformazioni di formato, generazione di esempi e alternative, formulazioni linguistiche e altre operazioni che, in una determinata situazione, assorbono risorse senza costituire il nucleo dell’apprendimento.

Possiamo delegare anche attività cognitive complesse — confrontare, sintetizzare, argomentare, formulare ipotesi, scrivere — quando non sono esse stesse la competenza che la persona deve costruire e quando la loro delega permette di concentrare il lavoro su processi cognitivi più rilevanti.

La domanda decisiva non è dunque se un’attività sia semplice o complessa, meccanica o creativa. È quale funzione svolga, in quel momento e per quella persona, nel processo di apprendimento.

Che cosa dovrebbe rimanere alla persona

Non dovremmo delegare sistematicamente le attività attraverso le quali si costruiscono proprio le conoscenze e le competenze che vogliamo appartengano alla persona.

Se vogliamo che uno studente impari ad argomentare, dovrà esercitarsi ad argomentare; se vogliamo che impari a risolvere una classe di problemi, non potrà limitarsi a valutare soluzioni generate dall’IA; se vogliamo che acquisisca determinati concetti, dovrà svolgere il lavoro cognitivo necessario a costruirli. L’IA potrà assistere questi processi, ma non sostituirli stabilmente senza modificare ciò che viene appreso.

Dovrebbero inoltre rimanere alla persona le conoscenze necessarie per comprendere e controllare ciò che delega. Ottenere una risposta non basta: occorre disporre delle strutture conoscitive e dei criteri che permettono di interpretarla, riconoscerne i limiti e decidere se utilizzarla.

Ma, date le premesse dichiarate all’inizio, vogliamo spingerci oltre e indicare alcune conoscenze e capacità che riteniamo debbano appartenere alla persona anche quando potrebbero essere tecnicamente sostituite dall’IA.

Una base organizzata di conoscenze

Deve rimanere alla persona una base sufficientemente ampia e organizzata di conoscenze: non un’enciclopedia di informazioni memorizzate, ma concetti, fatti, relazioni, modelli e linguaggi fondamentali attraverso i quali comprendere la realtà e integrare nuove informazioni.

Quali conoscenze debbano costituire questa base è una questione curricolare e culturale che non possiamo risolvere qui. Ciò che affermiamo è che questa base non può essere sostituita integralmente dalla possibilità di interrogare una macchina.

La capacità di formulare problemi e domande

La persona deve saper formulare problemi e domande. L’IA può suggerirli, riformularli e mostrarne aspetti non considerati, ma riconoscere che qualcosa costituisce un problema, stabilire perché meriti attenzione e decidere che cosa vogliamo conoscere significa dare una direzione al pensiero.

Se deleghiamo stabilmente anche questa funzione, rischiamo di utilizzare molto bene l’IA per rispondere a domande che non abbiamo scelto noi.

I criteri di giudizio

La persona deve costruire e possedere criteri di giudizio. L’IA può confrontare alternative, indicare vantaggi e svantaggi e verificare coerenze. Ma decidere che cosa consideriamo rilevante, plausibile, accettabile o preferibile richiede criteri costruiti attraverso conoscenze, esperienza, valori e confronto con gli altri.

Sono gli stessi criteri che ci permettono di giudicare ciò che l’IA propone.

Relazioni, spiegazioni e argomentazioni

La persona deve saper costruire relazioni, spiegazioni e argomentazioni. Non significa che debba produrle sempre autonomamente. Una volta costruite queste capacità, l’IA può assisterle e svolgerne alcune parti.

Ma chi non abbia imparato a collegare elementi, ricostruire una relazione causale, sostenere una tesi o confrontarla con un’obiezione dispone di pochi strumenti per valutare relazioni e argomentazioni costruite da altri, compresa l’IA.

La capacità di generare

La persona deve mantenere la capacità di generare qualcosa prima di scegliere tra ciò che viene generato per lei. Idee, ipotesi, interpretazioni e soluzioni possono nascere anche con l’assistenza dell’IA. Ma se l’attività abituale consiste soltanto nello scegliere tra alternative prodotte dalla macchina, rischia di impoverirsi lo spazio delle alternative che la persona è capace di concepire autonomamente.

La metacognizione

La persona deve esercitare metacognizione sul proprio pensiero: riconoscere ciò che sa e ciò che non sa, chiedersi perché ritiene valida una conclusione, individuare incertezze e accorgersi quando non possiede elementi sufficienti per giudicare.

L’IA può sollecitare questa riflessione, ma non può sostituire la consapevolezza della persona sul proprio conoscere.

Decisione e responsabilità

Infine, devono rimanere alla persona la decisione e la responsabilità. L’IA può fornire informazioni, costruire scenari, prospettare conseguenze e suggerire alternative. Ma la scelta non dovrebbe diventare la semplice accettazione della soluzione proposta dalla macchina. Decidere significa anche assumere la responsabilità delle conseguenze.

Il confine

Tutte queste capacità possono essere assistite, sostenute e ampliate dall’IA e, quando sono sufficientemente padroneggiate, anche parzialmente delegate. Ciò che non dovrebbe essere delegato è il processo attraverso il quale diventano capacità della persona e il loro esercizio nella misura necessaria a mantenerle disponibili.

Il confine che proponiamo non separa quindi rigidamente attività da affidare alla persona e attività da affidare alla macchina. Riguarda le condizioni nelle quali la stessa attività può essere delegata.

Un’attività può esserlo quando la persona possiede, nella misura necessaria, le conoscenze e le capacità che attraverso quell’attività si costruiscono e rimane in grado di comprenderne e valutarne il risultato. Non dovrebbe invece essere sistematicamente delegata quando il suo esercizio costituisce proprio il processo attraverso il quale quelle conoscenze e capacità devono ancora essere costruite o mantenute.

Non vogliamo che la persona debba fare sempre tutto ciò che una macchina potrebbe fare al suo posto. Vogliamo che continui a possedere conoscenze e capacità sufficienti per decidere consapevolmente che cosa affidare alla macchina, comprenderne il risultato, giudicarlo e, quando necessario, poter svolgere autonomamente le attività cognitive che abbiamo scelto di considerare fondamentali, anche senza di essa.

Può utilizzare meglio l’IA chi, nelle attività che le delega, possiede conoscenze e capacità sufficienti per non dipendere interamente da essa.

Paradossalmente, potremmo concludere che l’IA può essere tanto più utile quanto meno siamo costretti a dipenderne.