Sovranità cognitiva. Governare consapevolmente le proprie dipendenze cognitive

In breve

Viviamo da sempre attraverso dipendenze cognitive: libri, persone, strumenti e tecnologie ampliano ciò che possiamo conoscere e fare. L’IA rende però questa dipendenza più profonda, perché può intervenire direttamente in attività come comprendere, interpretare, argomentare e decidere. La sovranità cognitiva non consiste allora nel fare tutto da soli, ma nel governare consapevolmente ciò che affidiamo all’esterno. Significa conservare abbastanza conoscenza, capacità critica e autonomia di giudizio da poter scegliere quando delegare, controllare ciò che riceviamo e riprendere il controllo quando necessario.

La dimensione politica dell’uso dell’IA a scuola

Ogni volta che nella scuola entra qualcosa di nuovo — uno strumento, un metodo, una tecnologia, un curricolo, una diversa concezione dell’apprendimento — si compiono delle scelte. È sempre stato così.

L’intelligenza artificiale non introduce quindi la politica nella scuola. La politica nella scuola c’è sempre stata.

Il problema è che spesso preferiamo non vederla.

Presentiamo come tecniche decisioni che sono educative, come organizzative decisioni che riguardano valori, come inevitabili trasformazioni sulle quali avremmo invece potuto esercitare una scelta.

Con l’intelligenza artificiale questo rischio diventa particolarmente grande. Non soltanto per la potenza dello strumento, ma perché questa tecnologia può assumere alcune delle attività cognitive che la scuola, fino a ieri, aveva precisamente il compito di sviluppare nelle persone.

Non siamo quindi davanti soltanto a un nuovo strumento didattico.

Stiamo decidendo quali attività continueremo a chiedere alle persone di imparare a svolgere, quali affideremo alle macchine, quali conoscenze considereremo ancora necessario possedere, quali capacità riterremo superflue, quale autonomia vorremo preservare.

Sono scelte educative.

E proprio per questo sono scelte politiche.

Che cosa intendo per “politico”

Uso qui il termine politico in un significato che viene prima della politica partitica, degli schieramenti e delle appartenenze ideologiche.

È politica ogni scelta attraverso la quale vengono distribuite possibilità, risorse, responsabilità, autonomia e potere tra persone, istituzioni e tecnologie.

La scuola compie continuamente scelte di questo tipo.

Decide che cosa una persona dovrebbe conoscere e che cosa può ignorare. Decide quali capacità debbano essere sviluppate. Decide quali attività debba svolgere lo studente e quali possano essere affidate ad altri. Decide che cosa debba essere valutato e, attraverso la valutazione, comunica ciò che considera importante.

Anche un curricolo è una scelta politica.

Lo è un metodo didattico.

Lo è il ruolo attribuito all’insegnante.

Lo è la scelta di utilizzare un libro di testo e, soprattutto, il modo in cui lo si utilizza.

Lo è decidere che cosa debba essere imparato da tutti e che cosa possa essere patrimonio soltanto di alcuni.

L’IA non cambia questa natura della scuola.

Ma cambia enormemente alcune delle condizioni nelle quali quelle decisioni vengono prese.

Che cosa cambia con l’IA

Un libro di testo incorpora una selezione della conoscenza. Un curricolo stabilisce che cosa merita di essere appreso. Un metodo distribuisce diversamente l’attività tra insegnante e studente.

Un sistema linguistico generativo può fare contemporaneamente molto di più.

Può selezionare informazioni, sintetizzare, spiegare, formulare, argomentare, correggere, suggerire, confrontare, produrre esempi, proporre alternative, valutare un testo, costruire una risposta e simulare il comportamento linguistico di un interlocutore competente.

Non è quindi soltanto un nuovo contenitore di conoscenza.

Entra direttamente nei processi attraverso i quali la conoscenza viene mobilitata e il pensiero viene esercitato.

Qui sta, a mio avviso, la discontinuità.

La domanda politica tradizionale della scuola era anche:

quale conoscenza deve essere distribuita?

Ora dobbiamo aggiungerne un’altra:

come devono essere distribuite le capacità cognitive?

Chi deve saper formulare un problema?

Chi deve saper costruire un’argomentazione?

Chi deve saper valutare una fonte?

Chi deve possedere conoscenze sufficienti per controllare una risposta?

Chi deve saper scrivere?

Chi deve prendere una decisione?

Quali di queste capacità vogliamo che rimangano diffuse nella popolazione anche quando una macchina può esercitarle al nostro posto?

La questione non è affatto astratta.

La maggiore potenza dell’IA non consiste soltanto nel fatto che può fare più cose delle tecnologie precedenti. Consiste nel fatto che può assumere proprio alcune delle attività cognitive che la scuola ha il compito di sviluppare nelle persone.

Da questo momento decidere che cosa delegare all’IA non è più soltanto una decisione tecnica o didattica.

È una decisione su quale tipo di persona vogliamo contribuire a formare.

La trappola del TINA

C’è una formula che nella storia politica ed economica ha avuto grande fortuna: TINA, There Is No Alternative.

Non c’è alternativa.

È una delle più efficaci trappole concettuali attraverso le quali una scelta può essere trasformata in necessità.

Quando non esistono alternative, infatti, non occorre più discutere. Non occorre stabilire criteri. Non occorre assumersi la responsabilità di una decisione.

Bisogna semplicemente adeguarsi.

Nel discorso sull’IA questa logica è già riconoscibile.

L’IA ormai c’è.

Gli studenti comunque la usano.

Nel lavoro sarà utilizzata.

Non possiamo fermare il progresso.

La scuola deve stare al passo con i tempi.

Dobbiamo preparare i ragazzi al futuro.

Molte di queste affermazioni contengono elementi di verità. Il problema non è necessariamente nelle premesse.

Il problema è nel passaggio che viene fatto subito dopo.

L’IA esiste, quindi dobbiamo utilizzarla in un certo modo.

Gli studenti la utilizzano, quindi dobbiamo integrarla nella didattica.

Nel lavoro verrà utilizzata, quindi dobbiamo insegnare a utilizzarla.

Una macchina può svolgere una determinata attività, quindi non è più necessario insegnare alle persone a svolgerla.

È quel quindi che dobbiamo sottoporre a critica.

Perché tra la possibilità tecnologica e la decisione educativa esiste uno spazio.

È lo spazio della scelta.

Che l’IA esista è un fatto. Che cosa decidiamo di farne nella scuola è una scelta.

Il contrario del TINA non è rifiutare l’IA.

Sarebbe una semplificazione uguale e contraria.

Non esistono soltanto due possibilità: accettare l’IA come inevitabile oppure respingerla.

Esistono molte alternative all’interno del suo stesso utilizzo.

Possiamo usarla per eliminare determinati carichi cognitivi oppure per crearne di nuovi e più produttivi.

Possiamo usarla per fornire risposte oppure per generare domande.

Possiamo utilizzarla come sostituto, assistente, interlocutore, tutor, mindtool.

Possiamo delegarle la formulazione mantenendo alla persona la concezione, oppure ritenere che in determinate fasi dell’apprendimento anche la formulazione debba essere esercitata direttamente.

Possiamo utilizzarla per confermare ciò che uno studente pensa oppure per costringerlo a metterlo in discussione.

Niente di tutto questo è scritto nella tecnologia.

La tecnologia definisce ciò che è possibile delegare.

La tecnologia può dirci che cosa è possibile delegare. Non può dirci che cosa è desiderabile delegare.

Questa seconda decisione appartiene all’educazione.

E proprio perché riguarda le capacità che vogliamo sviluppare e conservare nelle persone, appartiene anche alla politica.

Quando una capacità diventa “inutile”

Una delle conseguenze più insidiose del TINA potrebbe essere la rapidità con la quale cominceremo a dichiarare obsolete alcune capacità.

Sentiremo sempre più spesso dire:

Non serve più saperlo fare, tanto lo fa l’IA.

Ma non serve più a chi?

E soprattutto: non serve più per fare che cosa?

Una capacità può non essere più necessaria per produrre un risultato e continuare a essere indispensabile per sviluppare una persona capace di comprenderlo, valutarlo e governarlo.

La scrittura è un esempio evidente.

Se considero soltanto il prodotto, posso chiedermi perché uno studente debba faticare a scrivere un testo che una macchina è in grado di produrre in pochi secondi, spesso in una forma linguisticamente migliore.

Ma se scrivere significa anche organizzare il pensiero, scoprire relazioni, rendere esplicito ciò che era confuso, confrontarsi con le proprie contraddizioni, precisare concetti, allora la questione cambia radicalmente.

Potrebbe essere diventata obsoleta una modalità di produzione del testo senza che sia diventata obsoleta la funzione cognitiva esercitata attraverso quella produzione.

L’obsolescenza produttiva di una capacità non implica la sua obsolescenza educativa.

Confondere le due cose significherebbe decidere che ciò che non è più necessario per produrre efficientemente qualcosa non è più necessario nemmeno per formare una persona.

Non è una conclusione tecnologica.

È una scelta educativa e politica.

Sovranità cognitiva

È a questo punto che introduco un’espressione che può sembrare eccessiva: sovranità cognitiva.

Non intendo con essa una sorta di autarchia della mente.

Nessuno è mai stato cognitivamente autosufficiente.

Pensiamo attraverso il linguaggio che abbiamo ricevuto dagli altri. Utilizziamo libri, insegnanti, biblioteche, strumenti, istituzioni, comunità scientifiche. Affidiamo continuamente parti della nostra attività cognitiva a oggetti e persone esterne a noi.

La conoscenza umana è sempre stata distribuita.

La questione non è quindi eliminare la dipendenza.

È governarla.

Per sovranità cognitiva intendo la capacità di governare consapevolmente le proprie dipendenze cognitive.

Una persona cognitivamente sovrana non è quella che sa tutto e fa tutto da sola.

È quella che possiede risorse sufficienti per riconoscere le proprie dipendenze, sceglierle, utilizzarle, valutarle e, quando necessario, sottrarsi ad esse.

Deve poter decidere:

questo posso delegarlo;

questo no;

qui posso fidarmi;

qui devo verificare;

qui la macchina mi sta aiutando a pensare;

qui sta semplicemente pensando linguisticamente al mio posto;

qui posso accettare il risultato;

qui devo riprendere il controllo.

Non c’è libertà di scelta nell’uso dell’IA senza le capacità cognitive necessarie per scegliere.

Questa è forse una delle questioni più importanti che l’IA pone alla scuola.

Per delegare bisogna possedere qualcosa

La delega viene spesso rappresentata come una semplice redistribuzione efficiente del lavoro.

La macchina svolge alcune attività e la persona può dedicarsi a quelle più importanti.

È una prospettiva ragionevole. Io stesso ho sostenuto in altri articoli che non tutta la fatica cognitiva ha lo stesso valore e che liberarsi di carichi cognitivi improduttivi può permettere di investire energie in attività più significative.

Ma c’è una condizione.

Per delegare consapevolmente bisogna possedere qualcosa.

Non significa dover essere capaci di svolgere meglio della macchina tutto ciò che le affidiamo. Se così fosse, gran parte delle nostre tecnologie sarebbe inutile.

Significa possedere una quantità sufficiente di conoscenza, capacità critica e consapevolezza metacognitiva per capire che cosa stiamo delegando e quali conseguenze produce quella delega.

Qui ritorna la distinzione tra conoscenza interna e conoscenza esternalizzata.

L’accessibilità praticamente illimitata a informazioni e formulazioni esterne non rende irrilevante ciò che una persona possiede internamente.

Potrebbe renderlo ancora più importante.

Per formulare una domanda significativa devo sapere qualcosa.

Per riconoscere una risposta debole devo sapere qualcosa.

Per individuare un’omissione devo sapere qualcosa.

Per confrontare interpretazioni devo possedere criteri.

Per accorgermi che una risposta perfettamente formulata è concettualmente povera devo avere qualcosa con cui confrontarla.

La conoscenza interna non serve soltanto a produrre risposte.

Serve a governare l’accesso alla conoscenza esternalizzata.

La delega ci modifica

C’è poi un’altra caratteristica della delega cognitiva che rischiamo di sottovalutare.

Non è necessariamente reversibile, non è detto che sia in grado di riprendermi ciò che ho delegato.

Se affido a una macchina un calcolo, la macchina svolge quel calcolo al mio posto.

Ma se per anni affido sistematicamente a una macchina determinate attività cognitive, non sto semplicemente spostando quelle attività all’esterno.

Sto modificando anche me stesso.

Una capacità non esercitata può indebolirsi. Una capacità indebolita non può essere semplicemente “riattivata” quando improvvisamente ne abbiamo bisogno.

Questo distingue una delega occasionale da una dipendenza strutturale.

E qui ritorna la distinzione che ho utilizzato altrove tra scaffolding e protesi permanente.

Uno scaffolding sostiene temporaneamente un’attività che progressivamente la persona diventa capace di esercitare autonomamente.

Una protesi permanente svolge invece stabilmente una funzione che la persona non esercita più, o non ha mai imparato a esercitare.

Non sto sostenendo che ogni protesi cognitiva sia negativa. Sarebbe assurdo.

Sto dicendo che bisogna sapere quale delle due cose stiamo costruendo.

Perché una decisione apparentemente semplice — lasciamo fare questa cosa all’IA — potrebbe avere conseguenze che vanno molto oltre l’efficienza immediata.

Quando deleghiamo stabilmente un’attività cognitiva non decidiamo soltanto chi farà quella cosa oggi. Potremmo anche decidere chi sarà ancora capace di farla domani.

La possibilità di dire no

Se la sovranità cognitiva consiste nel governare le proprie dipendenze, essa presuppone una condizione elementare per esistere davvero: deve essere possibile non dipendere da uno specifico strumento quando lo si ritiene opportuno.

Deve quindi rimanere praticabile anche il non uso dell’IA.

Non come posizione ideologica.

Come alternativa.

Uno studente dovrebbe poter svolgere determinate attività senza IA quando questo è cognitivamente utile.

Un insegnante dovrebbe poter decidere che, in una determinata fase dell’apprendimento, l’IA non serve o addirittura interferisce con ciò che vuole sviluppare.

Una scuola dovrebbe poter stabilire dove l’IA aumenta le possibilità educative e dove invece è opportuno limitarne l’intervento.

Se l’organizzazione scolastica incorporasse l’IA fino al punto da rendere praticamente impossibile non utilizzarla, la scelta rimarrebbe forse formalmente disponibile, ma cesserebbe di esserlo sostanzialmente.

Anche questo è TINA.

Non quello proclamato.

Quello incorporato nelle pratiche.

Una nuova disuguaglianza cognitiva

Per anni abbiamo discusso di digital divide.

Chi possiede le tecnologie e chi non le possiede. Chi può accedere alla rete e chi ne è escluso. Chi dispone di strumenti adeguati e chi no.

Con l’IA potrebbe emergere una disuguaglianza più sottile.

Due studenti potrebbero avere accesso allo stesso sistema, utilizzare lo stesso modello e disporre dello stesso abbonamento.

E tuttavia uno potrebbe utilizzarlo per evitare di pensare mentre l’altro potrebbe utilizzarlo per pensare molto più di quanto avrebbe potuto fare senza.

Uno potrebbe accettare risposte.

L’altro potrebbe interrogarle.

Uno potrebbe delegare la formulazione di un problema.

L’altro potrebbe utilizzare l’IA per esplorarne formulazioni concorrenti.

Uno potrebbe chiedere un testo.

L’altro potrebbe costruire attraverso il dialogo una comprensione più complessa del problema che vuole affrontare.

La differenza non sarebbe nell’accesso alla tecnologia.

Sarebbe nella qualità del rapporto cognitivo con essa.

Potremmo quindi trovarci davanti a una nuova forma di disuguaglianza:

tra chi sa utilizzare l’IA mantenendo il controllo cognitivo e chi diventa cognitivamente dipendente dall’IA.

O, detto ancora più nettamente:

Potremmo avere pochi che sanno pensare con l’IA e molti che sanno ottenere cose dall’IA. Non è la stessa competenza.

E questa differenza potrebbe sovrapporsi alle disuguaglianze già esistenti.

Chi possiede maggiore conoscenza pregressa, migliori strumenti culturali, maggiore capacità critica e migliori opportunità educative potrebbe essere proprio chi riesce a utilizzare l’IA per amplificare ulteriormente le proprie capacità.

Chi ne possiede meno potrebbe essere maggiormente tentato — o indotto — a utilizzarla come sostituto.

Una tecnologia universalmente accessibile potrebbe quindi non ridurre automaticamente le disuguaglianze cognitive.

Potrebbe persino amplificarne alcune.

Dalla sovranità individuale alla sovranità collettiva

Finora ho parlato prevalentemente della persona.

Ma la questione non è soltanto individuale.

Possiamo immaginare una società composta da individui estremamente efficienti nell’utilizzare sistemi intelligenti e contemporaneamente sempre meno capace, collettivamente, di comprendere, controllare e contestare quei sistemi.

La domanda diventa allora:

quali capacità riteniamo importante che rimangano diffuse nella popolazione e non concentrate in pochi soggetti o incorporate prevalentemente nelle macchine?

Non è necessario immaginare scenari apocalittici.

È sufficiente considerare ciò che una società democratica richiede ai propri cittadini.

Comprendere un’argomentazione.

Valutare informazioni.

Riconoscere interessi.

Confrontare interpretazioni.

Formulare problemi.

Costruire giudizi.

Cambiare opinione quando esistono ragioni sufficienti per farlo.

Assumersi la responsabilità di una decisione.

Se una parte crescente di queste operazioni può essere tecnologicamente assistita, la questione non è vietarne l’assistenza.

La questione è stabilire quale competenza debba continuare ad appartenere alle persone affinché l’assistenza rimanga assistenza.

Qui la sovranità cognitiva diventa una questione democratica.

Non perché dobbiamo caricare l’IA di un significato politico che non possiede.

Ma perché la distribuzione sociale delle capacità cognitive è già una questione di potere.

Chi governa l’infrastruttura cognitiva?

Esiste poi un ulteriore livello.

Il libro di testo è sempre stato anche un dispositivo di selezione e organizzazione della conoscenza. Dietro un manuale esistono autori, editori, scelte culturali, interessi economici.

Non abbiamo mai avuto strumenti educativi neutrali.

Ma un sistema generativo introduce qualcosa di diverso.

Non mette semplicemente a disposizione un contenuto precedentemente selezionato.

Interagisce.

Risponde.

Riformula.

Adatta.

Propone.

Decide di volta in volta quale porzione della propria enorme disponibilità linguistica mobilitare nella risposta.

Una parte crescente dell’ambiente cognitivo scolastico potrebbe quindi essere mediata da sistemi progettati e controllati da soggetti esterni alla scuola.

Questo apre domande che non possono essere liquidate come tecniche.

Chi stabilisce i criteri attraverso i quali questi sistemi rispondono?

Quali rappresentazioni della conoscenza privilegiano?

Quali interessi economici ne governano l’evoluzione?

Quanto è trasparente il loro funzionamento?

Quanto controllo conservano l’insegnante e la scuola?

Non credo sia particolarmente utile trasformare queste domande in una generica denuncia delle grandi aziende tecnologiche.

Il problema pedagogicamente più interessante è un altro:

La scuola può affidare una parte della propria infrastruttura cognitiva a sistemi che non governa senza ridefinire il proprio ruolo?

Non conosco una risposta semplice.

Ma non riconoscere la domanda sarebbe già una risposta.

Il paradosso dell’insegnante

L’IA potrebbe indebolire enormemente il ruolo dell’insegnante.

Oppure potrebbe renderlo molto più importante.

Dipende ancora una volta da una scelta.

Il libro di testo ha già consentito per decenni una particolare forma di delega professionale.

L’autore e l’editore selezionano la conoscenza, la organizzano, stabiliscono una progressione, costruiscono esercizi. L’insegnante può utilizzare criticamente questo dispositivo oppure limitarsi, sostanzialmente, a recitarlo.

L’IA può moltiplicare enormemente questa possibilità di deresponsabilizzazione.

Può preparare lezioni, costruire esercizi, spiegare concetti, correggere elaborati, generare valutazioni, differenziare materiali.

L’insegnante potrebbe progressivamente diventare l’esecutore locale di decisioni elaborate altrove.

Ma può accadere anche il contrario.

Se non esiste più il testo che garantisce preventivamente selezione, correttezza e progressione, diventa ancora più necessario qualcuno capace di giudicare, scegliere, confrontare, contestualizzare e assumersi la responsabilità delle decisioni.

L’IA potrebbe quindi contemporaneamente indebolire l’autorità dell’insegnante e rendere molto più necessaria la sua autorevolezza.

Non è un gioco di parole.

È una possibile trasformazione della professionalità docente.

Chi ha il diritto di scegliere?

Rimane infine una domanda che ogni discorso politico prima o poi incontra.

Chi decide?

Lo studente?

L’insegnante?

La scuola?

Le famiglie?

Il sistema educativo?

Le aziende che progettano gli strumenti?

E quali decisioni possono essere lasciate all’individuo e quali devono essere collettive?

Un insegnante può decidere che i propri studenti non debbano più esercitare una determinata capacità perché una macchina può esercitarla?

Una scuola può farlo?

Può farlo un sistema educativo?

E, al contrario, fino a che punto è legittimo impedire a uno studente di utilizzare uno strumento che potrebbe aumentare enormemente le sue possibilità di apprendimento?

Non credo che abbiamo bisogno di rispondere una volta per tutte a queste domande.

Abbiamo però bisogno di impedire che vengano cancellate.

Perché quando una decisione viene presentata come inevitabile, scompare anche la domanda su chi abbia il diritto e la responsabilità di prenderla.

Ed è precisamente qui che TINA diventa politico.

La scuola come luogo nel quale le alternative rimangono visibili

Non credo che il compito della scuola sia difendere le capacità umane dalle macchine.

E non credo nemmeno che sia preparare gli studenti ad adattarsi nel modo più efficiente possibile alle macchine che troveranno.

Entrambe le prospettive sono troppo povere.

La scuola dovrebbe contribuire a formare persone capaci di utilizzare gli strumenti disponibili senza perdere la possibilità di giudicarli.

Persone capaci di delegare senza rinunciare a decidere che cosa delegare.

Capaci di utilizzare conoscenza esternalizzata senza svuotare quella interna fino al punto da non poterla più governare.

Capaci di accettare dipendenze senza trasformarle inconsapevolmente in subordinazione.

Capaci di utilizzare l’IA e anche di decidere quando non utilizzarla.

Questa è, per me, sovranità cognitiva.

E proprio per questo la questione dell’IA a scuola è politica.

Non perché dobbiamo schierarci a favore o contro una tecnologia.

Ma perché dobbiamo scegliere.

Dobbiamo scegliere quali capacità vogliamo sviluppare, quali possiamo delegare, quali dipendenze siamo disposti ad accettare, quali alternative vogliamo preservare e quale distribuzione della conoscenza e delle capacità riteniamo desiderabile.

Possiamo anche scegliere male.

Possiamo cambiare idea.

Possiamo sperimentare e scoprire che una decisione non produce gli effetti sperati.

Ma dobbiamo almeno riconoscere che stiamo scegliendo.

Il vero pericolo del TINA non è infatti imporre una scelta sbagliata.

È farci dimenticare che una scelta esiste.

E allora, prima di domandarci quanto velocemente la scuola debba adottare l’intelligenza artificiale, forse dovremmo fermarci su due domande più radicali:

Quali capacità cognitive vogliamo che rimangano patrimonio delle persone, anche quando non è più tecnicamente necessario che siano loro a esercitarle?

E subito dopo:

Chi vogliamo che abbia il potere di rispondere a questa domanda?

Le risposte potranno essere diverse.

Ed è precisamente questo il punto.

There is an alternative.