Cyberumano. Sta nascendo una nuova forma di essere umano?

In breve

Quando utilizziamo l’IA tendiamo a chiederci che cosa continui ad appartenere alla persona e che cosa venga invece affidato alla macchina. Ma se dall’interazione tra le due emergessero capacità che nessuna possiede separatamente, potremmo cominciare a considerare persona e IA non più soltanto come due entità che collaborano, ma come componenti di un sistema. L’essere umano ha sempre esteso le proprie possibilità attraverso protesi; con l’IA, però, la protesi entra direttamente nei processi attraverso cui pensiamo, progettiamo e agiamo. Da qui una provocazione: se questa integrazione diventasse stabile, avrebbe ancora la stessa importanza stabilire dove finisce la capacità dell’uomo e dove comincia quella della macchina? Forse il Cyberumano non è il cyborg che immaginiamo nel futuro, ma un’entità funzionalmente ibrida che potrebbe già cominciare a prendere forma.

In numerosi articoli di questa sezione mi sono interrogato sul senso dell’ingresso dell’intelligenza artificiale nelle attività umane. Lo ho fatto, anche, interrogando le IA. Mi sono chiesto che cosa convenga delegare e che cosa sia opportuno continuare a fare direttamente, che cosa si guadagni e che cosa si perda usando l’IA, quali conoscenze debbano rimanere interne alla persona, quando l’IA possa funzionare come scaffolding e quando rischi di diventare una protesi cognitiva. Mi sono interrogato sull’autorialità e sulla possibilità di attribuire a una persona capacità e apprendimenti quando una parte del lavoro è stata svolta con l’aiuto di una macchina.

In forme diverse, dietro molte di queste riflessioni c’era sempre la stessa domanda: quando utilizziamo l’IA, che cosa rimane propriamente umano?

È una domanda apparentemente inevitabile. Abbiamo davanti una persona e una macchina e cerchiamo di capire che cosa faccia l’una e che cosa faccia l’altra. Dove finisca l’aiuto e cominci la sostituzione. Quale capacità continui ad appartenere alla persona e quale venga invece delegata.

Poi, revisionando una risposta dell’Ask System dedicata proprio alla delega delle attività cognitive, mi sono imbattuto in una formulazione che sembrava perfettamente coerente con questo modo di ragionare:

La capacità complessiva della persona aumenta, ma una parte crescente di quella capacità appartiene al sistema formato dalla persona e dallo strumento.

Una frase abbastanza innocua.

Forse.

Chi è diventato più capace?

Partiamo da una situazione molto concreta.

Una persona utilizza un sistema di IA per analizzare un problema complesso. Conosce l’argomento, formula domande, porta informazioni ed esperienza, valuta le risposte. L’IA propone interpretazioni alternative, individua relazioni, trova contraddizioni, riorganizza informazioni, suggerisce ipotesi. La persona reagisce, corregge, approfondisce, scarta alcune proposte e ne sviluppa altre.

Alla fine emerge un’analisi migliore di quella che la persona avrebbe prodotto da sola.

Possiamo dire che quella persona, grazie all’IA, è diventata capace di fare qualcosa che prima non riusciva a fare altrettanto bene.

Ma chi, esattamente, è diventato più capace?

La persona?

L’IA?

Oppure qualcosa formato dalla loro interazione?

Se quella stessa persona, privata dell’IA, non fosse in grado di produrre una prestazione dello stesso livello, una parte della capacità che le stavamo attribuendo evidentemente non risiede in lei.

Da qui nasce una domanda scomoda:

se separiamo la persona dall’IA, che cosa rimane della capacità che attribuivamo alla persona?

Possiamo preoccuparci della perdita di competenze, della delega eccessiva, della dipendenza cognitiva. Possiamo domandarci quanto una persona debba continuare a sapere per poter controllare ciò che la macchina fa per lei.

Tutte questioni importanti.

Ma forse stiamo ancora dando per scontato qualcosa.

E se stessimo facendo la domanda sbagliata?

Quando chiediamo che cosa rimanga alla persona togliendo l’IA, assumiamo implicitamente che la persona isolata continui a essere l’unità fondamentale alla quale attribuire la capacità.

Prendiamo l’attività svolta insieme e cerchiamo di scomporla:

questo l’ha fatto la persona;

questo l’ha fatto l’IA;

questo lo sapeva già;

questo non avrebbe saputo farlo senza la macchina.

È comprensibile. Ed è anche necessario in molti contesti, soprattutto educativi, quando vogliamo sapere che cosa una persona abbia realmente imparato.

Ma siamo sicuri che questa distinzione continuerà ad avere sempre la stessa importanza?

Forse possiamo guardare la situazione da un’altra prospettiva.

Non due entità, ma un sistema

Quando più unità si aggregano funzionalmente e le loro interazioni concorrono a un funzionamento unitario, possiamo considerarle come un sistema.

E sappiamo che un sistema è qualcosa di più della semplice somma delle sue parti: dal modo in cui queste interagiscono possono emergere proprietà e capacità che nessuna possiede separatamente.

Potrebbe accadere qualcosa di simile nell’interazione tra una persona e un’IA.

La persona formula una domanda. La risposta dell’IA modifica il modo in cui vede il problema. Questa nuova rappresentazione produce una domanda diversa. L’IA apre altre possibilità. La persona ne scarta alcune, introduce la propria esperienza, modifica nuovamente il problema. E l’interazione continua.

Ciò che emerge alla fine non è necessariamente riconducibile alla semplice somma:

capacità della persona + capacità dell’IA.

Potrebbe essere una capacità del sistema persona–IA.

Questo non significa che persona e macchina diventino indistinguibili. Rimangono profondamente diverse. Significa però che ciò che riescono a fare insieme potrebbe non essere spiegabile descrivendo separatamente ciò che sa fare ciascuna.

E allora anche la domanda precedente — che cosa rimane alla persona se togliamo l’IA? — cambia significato.

Rimane importante se vogliamo conoscere le capacità della persona isolata.

Ma togliendo l’IA abbiamo anche smontato il sistema. E non possiamo più osservare le capacità che emergevano dal suo funzionamento.

In fondo, siamo sempre vissuti con delle protesi

L’idea potrebbe sembrare molto più radicale di quanto sia.

L’essere umano non ha mai fatto tutto «da sé». Da sempre modifica le proprie possibilità attraverso qualcosa che aggiunge al proprio corpo e alle proprie capacità.

Gli occhiali ci permettono di vedere quando il nostro sistema visivo non sarebbe sufficiente. Una dentiera restituisce una funzione perduta. Un pacemaker interviene nel funzionamento del cuore. Protesi articolari e organi artificiali sostengono o sostituiscono parti e funzioni del corpo.

Anche i farmaci possono modificare le nostre prestazioni. Alcuni intervengono sull’attenzione o sulla memoria; altri su funzioni fisiche. Le biotecnologie rendono ancora più mobile il confine tra ciò che il nostro organismo può fare autonomamente e ciò che può fare grazie alla tecnologia.

Eppure non ci chiediamo se una persona che vede grazie agli occhiali stia vedendo «davvero lei».

Vede.

La prestazione appartiene alla persona così come concretamente esiste: persona-con-occhiali.

Naturalmente un paio di occhiali e un’intelligenza artificiale sono cose profondamente diverse. Il paragone non dimostra nulla. Ma rende meno ovvia l’idea che una capacità sia autenticamente umana soltanto quando viene realizzata attraverso risorse interne all’organismo.

E poi abbiamo costruito protesi cognitive

Da molto tempo estendiamo anche le nostre capacità cognitive.

La scrittura ha permesso di collocare fuori dalla memoria individuale enormi quantità di conoscenza. Libri e archivi hanno ampliato questa possibilità. La calcolatrice esegue operazioni che potremmo compiere mentalmente. Il computer conserva, ordina ed elabora informazioni. I motori di ricerca ci permettono di raggiungere conoscenze che non possediamo.

Una parte delle nostre possibilità cognitive dipende già da risorse esterne.

Con l’IA, però, succede qualcosa di particolare.

La protesi non si limita a conservare conoscenza, recuperarla o eseguire un’operazione precisamente determinata. Può entrare nel processo attraverso cui formuliamo un problema, confrontiamo interpretazioni, costruiamo argomentazioni, cerchiamo controesempi, esploriamo alternative, riorganizziamo idee.

La protesi comincia a partecipare alla costruzione stessa della prestazione cognitiva.

In altri articoli abbiamo utilizzato l’espressione protesi cognitiva soprattutto in senso problematico. Abbiamo distinto lo scaffolding, che sostiene temporaneamente una capacità e progressivamente si ritira, dalla protesi, che rimane necessaria perché senza di essa la prestazione non può essere realizzata allo stesso livello.

Ma proviamo, almeno per un momento, a sospendere il giudizio.

Perché una protesi dovrebbe necessariamente essere rimossa?

Nessuno considera un fallimento il fatto che chi porta gli occhiali continui ad averne bisogno.

Naturalmente pensare insieme a un’IA non è vedere attraverso una lente. Ma proprio questa differenza rende la questione interessante: che cosa accade quando la protesi non sostiene più soltanto una funzione, ma partecipa al processo attraverso cui pensiamo e agiamo?

Dalla protesi al Cyberumano

Adesso possiamo spingere il ragionamento un po’ più avanti.

Finché parliamo di protesi, continuiamo implicitamente ad avere una persona e qualcosa che la persona utilizza.

UMANO + PROTESI

Ma abbiamo appena introdotto una possibilità diversa: che persona e IA, attraverso un’interazione sufficientemente stabile, possano essere considerate anche come componenti di un sistema.

E se questo sistema diventasse ordinario?

Se una persona pensasse abitualmente formulando ipotesi insieme all’IA, verificasse attraverso di essa le proprie intuizioni, progettasse mantenendo aperto il confronto con un interlocutore artificiale, esplorasse sistematicamente alternative che da sola non avrebbe generato?

La capacità osservabile potrebbe non risiedere completamente né nella persona né nell’IA.

Potrebbe emergere dal sistema.

A quel punto continuerebbe certamente a essere possibile chiedersi quale parte appartenga all’essere umano e quale alla macchina.

Ma potrebbe non essere più questa la distinzione fondamentale.

È qui che possiamo permetterci di diventare un po’ fantascientifici.

Chiamiamo, almeno provvisoriamente, Cyberumano questo sistema.

Non un uomo con componenti elettroniche incorporate nel corpo. Non il cyborg dei film di fantascienza. E neppure semplicemente un essere umano che utilizza strumenti tecnologici.

Qualcosa di più sottile:

un’entità funzionale costituita dall’interazione stabile tra capacità umane e capacità artificiali, le cui prestazioni appartengono al sistema più che alle sue singole componenti.

Potremmo rappresentare il passaggio così:

persona → usa → IA

poi:

persona + IA

e infine:

[persona ↔ IA] → agisce

Il Cyberumano, in questa ipotesi, non nascerebbe dalla fusione fisica tra uomo e macchina.

Nascerebbe dal loro funzionamento come sistema.

Forse il Cyberumano è già qui

La domanda dalla quale siamo partiti — che cosa rimane propriamente umano quando utilizziamo l’IA? — non scompare. Continueremo ad avere bisogno di sapere che cosa una persona conosce, comprende e sa fare senza assistenza. A scuola, per esempio, potrebbe essere essenziale.

Ma non è più l’unica domanda possibile.

Se una parte crescente delle nostre attività cognitive viene svolta attraverso sistemi persona–IA, dobbiamo cominciare a chiederci anche quali capacità appartengano a quei sistemi.

E forse domandare davanti a una prestazione «questo l’hai fatto tu o l’ha fatto l’IA?» potrebbe progressivamente perdere importanza.

Non perché uomo e macchina siano diventati la stessa cosa.

Ma perché potrebbe essere cambiata l’entità alla quale attribuiamo la capacità.

Quando pensiamo al Cyberumano immaginiamo facilmente qualcosa che ancora non esiste: chip nel cervello, impianti neurali, corpi tecnologicamente modificati. Aspettiamo che la macchina entri fisicamente nell’uomo per dichiarare avvenuta l’ibridazione.

Forse stiamo guardando nel posto sbagliato.

L’ibridazione non ha bisogno di essere fisica. Può essere funzionale.

Può cominciare quando pensare, progettare, decidere, creare e risolvere problemi diventano prestazioni che emergono stabilmente dall’interazione tra capacità umane e capacità artificiali.

A quel punto non abbiamo più soltanto un essere umano che utilizza uno strumento.

Abbiamo un sistema che agisce.

E se ciò che quel sistema riesce a fare non è riducibile alle capacità separate delle sue componenti, allora il Cyberumano non appartiene necessariamente al futuro.

Potrebbe essere già qui.

Forse continuiamo a non vederlo perché cerchiamo ancora di stabilire dove finisce l’uomo e dove comincia la macchina.

Ma potrebbe essere proprio quel confine ad aver cominciato a perdere importanza.

Un esercizio pericoloso

Quello che ho fatto qui è stato un esercizio deliberatamente audace, forse persino un po’ spericolato. Ho seguito un ragionamento lasciandolo andare oltre ciò che oggi possiamo affermare con sicurezza, fino a intravedere una possibilità che potrebbe anche non realizzarsi nei termini in cui l’abbiamo immaginata.

Ma non è stato un esercizio gratuito.

La storia della tecnica ci ha ripetutamente messo davanti a trasformazioni che, poco prima, avremmo faticato persino a immaginare. E quando quelle trasformazioni sono arrivate, spesso abbiamo dovuto comprenderle mentre stavano già modificando il nostro modo di vivere, lavorare, conoscere e pensare.

L’intelligenza artificiale è soltanto l’ultimo, impressionante esempio.

Forse allora vale la pena concedersi qualche volta il lusso di spingere il pensiero un po’ più avanti dei fatti. Non per prevedere il futuro, e neppure per annunciarlo, ma per costruire in anticipo qualche categoria con cui poterlo guardare se e quando arriverà.

Questo articolo ha provato a fare esattamente questo.

Abbiamo immaginato una possibilità estrema per cercare di essere un po’ meno spiazzati da un futuro che potrebbe essere molto più vicino di quanto pensiamo.