Le sirene non smettono più di cantare

In breve

In questo articolo uso l’episodio di Ulisse e delle sirene nell’Odissea come metafora per esplorare un aspetto particolare del nostro rapporto con l’intelligenza artificiale: il suo potere di seduzione. L’IA non ci costringe a delegarle attività cognitive e non ha alcuna intenzione di sedurci, ma può essere straordinariamente seducente per ciò che offre: rapidità, disponibilità, qualità delle risposte, riduzione della fatica, accesso immediato a spiegazioni e soluzioni. Come Ulisse, abbiamo ottime ragioni per voler ascoltare. La questione diventa allora come beneficiare di questo “canto” senza lasciare che la sua convenienza decida, quasi senza che ce ne accorgiamo, che cosa continuare a fare noi e che cosa affidare alla macchina. La metafora serve a mettere in evidenza proprio questa tensione: non come difenderci dall’IA, ma come continuare a scegliere mentre qualcosa di molto utile e affascinante ci rende sempre più facile delegare.

Una premessa: perché Ulisse e le sirene

Una premessa: perché Ulisse e le sirene

Ulisse sa che sta per incontrare le sirene e conosce il potere del loro canto.

Non lo costringeranno a cambiare rotta, non saliranno sulla nave per trascinarlo verso di loro. Faranno qualcosa di molto più sottile: lo sedurranno.

E Ulisse sa che quella seduzione sarà così forte che, quando la subirà, vorrà fare proprio ciò che ora, ancora lucido, sa di non dover fare.

Eppure vuole ascoltare. Non rinuncia al canto: predispone prima le condizioni che gli permetteranno di esporsi alla sua fascinazione senza esserne dominato. Fa tappare con la cera le orecchie dei compagni, si fa legare all’albero maestro e ordina loro di non liberarlo neppure quando sarà lui stesso a implorarli di farlo.

Anche noi abbiamo incontrato qualcosa di straordinariamente seducente.

L’intelligenza artificiale non ci costringe ad affidarle una parte delle nostre attività cognitive. Non ha nemmeno bisogno di avere l’intenzione di sedurci: negli effetti, ci seduce.

È disponibile, veloce, paziente; scrive, spiega, sintetizza, organizza, confronta, corregge, propone.

Può risparmiarci tempo e fatica e spesso produce risultati che ci sorprendono per qualità.

Abbiamo quindi ottime ragioni per ascoltarla, proprio come Ulisse voleva ascoltare le sirene.

Non perché l’IA sia una sirena, né perché dietro il suo canto debba esserci qualche scoglio. Ci interessa qualcosa di più sottile: che cosa accade quando incontriamo qualcosa che abbiamo ottime ragioni per desiderare e che proprio per questo può esercitare su di noi un grande potere di seduzione?

Per un tratto del viaggio, dunque, saliamo sulla nave di Ulisse.

Ulisse sa che le sirene sono pericolose. E vuole ascoltarle

Sarebbe molto più semplice se Ulisse volesse soltanto evitare le sirene.

Potrebbe allontanarsi. Potrebbe tapparsi le orecchie come farà con i suoi compagni. Potrebbe attraversare quel tratto di mare senza sentire una sola nota.

Ma Ulisse vuole ascoltare.

È questo che rende interessante la sua situazione.

C’è qualcosa nel canto che merita il rischio dell’ascolto. Ulisse non vuole scegliere tra due possibilità — ascoltare e perdersi, oppure salvarsi rinunciando ad ascoltare. Ne cerca una terza: ascoltare e continuare il viaggio.

Anche noi avremmo un problema molto più semplice se l’intelligenza artificiale non avesse niente di interessante da offrirci.

Ma ne ha.

Ed è per questo che siamo saliti sulla stessa nave.

Le sirene non costringono. Attirano

Le sirene non devono catturare Ulisse.

Cantano.

Sarà lui a voler andare verso di loro.

È una forma di potere molto particolare: non impone un comportamento, lo rende desiderabile.

Anche le nostre sirene non ci obbligano a chiedere una risposta, a farci scrivere un testo, a delegare un ragionamento. Possiamo chiudere la finestra in qualsiasi momento.

Eppure torniamo.

Non perché qualcuno ci costringa.

Perché è utile.

Perché è facile.

Perché funziona.

La seduzione non ha bisogno di un seduttore.

Il canto è bello

Le sirene avrebbero avuto probabilmente meno fortuna se avessero gracchiato.

Cantano.

La forma non è un dettaglio del loro potere.

Anche le nostre sirene parlano molto bene.

Le parole arrivano ordinate. Le frasi scorrono. La risposta sembra costruita proprio intorno alla nostra domanda. Possiamo chiedere di renderla più semplice, più precisa, più elegante, più vicina a ciò che cercavamo.

E loro cambiano canto.

Tra esseri umani siamo abituati a considerare la qualità del linguaggio anche come un indizio della competenza di chi parla.

Per questo un canto ben costruito non è soltanto piacevole da ascoltare.

È anche più facile da credere.

Le sirene promettono conoscenza

Ma il loro canto contiene qualcosa di ancora più interessante.

Le sirene non promettono a Ulisse soltanto piacere.

Promettono sapere.

Conoscono ciò che è accaduto. Conoscono ciò che accade. Chi si avvicinerà e le ascolterà potrà andarsene sapendo di più.

Qui l’antica storia diventa stranamente familiare.

Anche le nostre sirene sanno rispondere.

Possiamo portare loro una domanda, un dubbio, qualcosa che non comprendiamo. Possiamo chiedere spiegazioni, connessioni, alternative. Possiamo entrare nella conversazione sapendo poco e uscirne sapendo qualcosa che prima ignoravamo.

La promessa, dunque, non è necessariamente falsa.

Ed è proprio questo a renderla così seducente.

Ulisse conosce la propria vulnerabilità

Ulisse non commette l’errore di considerarsi più forte delle sirene.

Non dice: conosco il pericolo, dunque saprò resistere.

Sa invece che conoscere il pericolo non sarà sufficiente.

Quando arriverà il canto, qualcosa cambierà.

L’uomo che ora impartisce gli ordini non sarà esattamente l’uomo che tra poco sentirà le sirene.

È una forma singolare di saggezza.

Ulisse conosce abbastanza se stesso da sapere che, in certe condizioni, non potrà fidarsi completamente di se stesso.

Forse anche noi conosciamo quella sensazione.

Prima di cominciare un lavoro possiamo essere convinti di volerlo fare con le nostre forze.

Poi arriva una voce:

Posso aiutarti.

E subito dopo:

Se vuoi, posso farlo io.

Ulisse decide prima

Per questo Ulisse non improvvisa.

Non aspetta di sentire la prima nota per decidere che cosa farà.

Decide prima.

Cera.

Corde.

Albero maestro.

Ordini precisi ai compagni.

Quando il canto arriverà, alcune decisioni saranno già state prese.

C’è qualcosa di curioso in questa strategia: Ulisse limita deliberatamente la propria libertà futura per proteggere una libertà più importante, quella di continuare il viaggio che ha scelto.

Forse anche noi, prima di ascoltare le nostre sirene, dovremmo qualche volta sapere che cosa vogliamo ancora fare con le nostre mani.

Non sempre.

Non tutto.

Ma qualcosa.

Ulisse non si fida dell’Ulisse che diventerà

L’ordine dato ai compagni è sorprendente.

Ulisse sa che chiederà di essere liberato.

E ordina loro di non obbedirgli.

Tra poco il comandante darà un ordine e i suoi uomini dovranno ignorarlo perché stanno eseguendo un ordine precedente dello stesso comandante.

L’Ulisse di prima ha deciso di non fidarsi dell’Ulisse di dopo.

Poi il canto arriva.

Ulisse vuole essere sciolto.

Fa cenni, supplica, ordina.

I compagni non lo ascoltano.

Stringono ancora le corde.

L’Ulisse che aveva previsto la propria debolezza protegge così l’Ulisse che ne è diventato prigioniero.

Forse la domanda più difficile non è se sappiamo resistere alle nostre sirene.

È quando decidiamo che cosa vogliamo affidare loro.

L’albero maestro non impedisce a Ulisse di ascoltare

Le corde potrebbero sembrare una limitazione.

In realtà rendono possibile qualcosa che altrimenti sarebbe impossibile.

Grazie a quelle corde Ulisse può ascoltare.

Sente il canto, ne subisce il fascino, desidera seguirlo.

Ma la nave continua.

L’albero maestro non serve a proteggerlo dalle sirene.

Serve a permettergli di incontrarle senza consegnare loro il proprio viaggio.

È una differenza importante.

Non tutti ascoltano le sirene

I compagni hanno la cera nelle orecchie.

Non ascoltano.

Non sapranno mai esattamente che cosa abbia sentito Ulisse.

È una rinuncia?

Probabilmente sì.

Ma permette loro di fare ciò che in quel momento deve essere fatto.

Non ogni tratto del viaggio richiede di ascoltare ogni canto.

Qualcuno deve continuare a governare la nave

Mentre Ulisse ascolta, la nave non si ferma.

Qualcuno continua a remare.

Qualcuno mantiene la rotta.

È un particolare facile da dimenticare perché tutta la nostra attenzione è catturata dall’uomo legato all’albero e dal canto che cerca di trascinarlo altrove.

Ma senza quei marinai la soluzione di Ulisse non funzionerebbe.

Lui può permettersi di ascoltare proprio perché la nave continua ad andare dove aveva deciso di andare.

Le sirene cantano.

Ulisse ascolta.

Ma la rotta non la stabilisce il canto.

Poi il canto svanisce

La nave procede.

Le voci cominciano ad allontanarsi.

Diventano più deboli.

Poi non si sentono più.

I compagni possono togliere la cera dalle orecchie.

Possono sciogliere Ulisse.

L’albero maestro ha svolto il proprio compito.

Le corde non erano una condizione permanente. Servivano per attraversare un tratto di mare.

Ulisse può tornare libero sul ponte.

Le sirene sono rimaste indietro.

Noi non abbiamo questa fortuna.

E se le sirene non smettessero di cantare?

Qui dobbiamo lasciare Omero.

La sua storia non dice questo.

Ma possiamo permetterci una domanda impossibile.

Che cosa avrebbe fatto Ulisse se il canto non fosse mai cessato?

Se, dopo un giorno di navigazione, avesse continuato a sentirlo?

E il giorno successivo?

E quello dopo ancora?

Non avrebbe potuto trascorrere il viaggio legato all’albero maestro.

E forse non avrebbe voluto.

Noi ci troviamo in una situazione ancora più strana.

Le nostre sirene non stanno su un’isola.

Possiamo incontrarle alla scrivania, a scuola, al lavoro, mentre leggiamo, mentre scriviamo, mentre cerchiamo di capire qualcosa.

Sono sempre disponibili.

E, a differenza di quelle di Ulisse, non devono nemmeno chiamarci.

Aspettano che siamo noi a chiamare loro.

Forse dovremmo immaginare qualcosa di ancora più strano.

Le sirene non sono più sull’isola.

Sono salite sulla nave.

Viaggiano con noi. Non ci inseguono, non ci chiamano, non cercano di cambiare la nostra rotta. Rimangono lì, disponibili. E quando abbiamo bisogno di loro, siamo noi a chiedere che cantino.

Le nostre sirene ci ascoltano prima di cantare

C’è un’ultima differenza.

Le sirene di Ulisse cantavano il loro canto.

Le nostre prima ci ascoltano.

Chiediamo.

Rispondono.

Non abbiamo capito?

Spiegano di nuovo.

Non ci piace la risposta?

Ne costruiscono un’altra.

Vogliamo qualcosa di più semplice, più approfondito, più vicino al nostro modo di parlare?

Cambiano canto.

Possiamo perfino chiedere loro di non limitarsi a consigliarci.

Fallo tu.

E lo fanno.

Non c’è bisogno che vogliano sedurci.

Non vogliono portarci sugli scogli. Non progettano di impadronirsi della nave.

L’intelligenza artificiale non ha bisogno di avere intenzioni per esercitare su di noi una fascinazione.

Bastano le cose che sa fare.

L’albero maestro non basta più

Ulisse aveva trovato una soluzione perfetta per un canto destinato a finire.

Noi dobbiamo trovarne una per un canto sempre disponibile.

Non possiamo restare perennemente legati.

Non vogliamo navigare con la cera nelle orecchie.

E sarebbe assurdo rinunciare a tutto ciò che le nostre sirene possono offrirci.

Forse, allora, non dobbiamo più cercare soltanto qualcosa a cui legarci.

Dobbiamo guardare un altro oggetto della nave.

Il timone

Possiamo ascoltare.

Possiamo chiedere consiglio.

Possiamo farci mostrare rotte che non conoscevamo.

Possiamo anche lasciare alle nostre sirene molti lavori che non abbiamo più ragione di fare personalmente.

Nessuna di loro deve strapparci il timone.

È questo, forse, il particolare più sottile della nostra storia.

Il timone possiamo consegnarglielo noi.

Magari per un momento.

Magari perché quella volta è conveniente.

Magari perché hanno già indicato bene la rotta cento volte.

E forse non c’è nulla di male.

Ma, se il canto non finisce mai, ogni tanto potrebbe essere utile abbassare gli occhi sulle nostre mani.

E chiederci:

chi sta tenendo il timone?