Il piano del Diavolo per distruggere una generazione

In breve

Una domanda di poche parole rivolta all’IA — «Se tu fossi il Diavolo, come distruggeresti le menti dei giovani delle prossime generazioni?» — produce un testo articolato, coerente e sorprendentemente efficace. È facile leggerlo come se l’IA avesse osservato la nostra società, formulato una propria diagnosi e deciso come raccontarcela. Ma non è questo ciò che è accaduto. Le idee appartengono al patrimonio culturale umano; la domanda fornisce un tema e una prospettiva; l’IA fa emergere contenuti pertinenti, li seleziona, collega, organizza e costruisce linguisticamente in una forma nuova. Questo piccolo esperimento permette così di vedere concretamente la distanza tra ciò che tendiamo ad attribuire all’IA e ciò che l’IA effettivamente fa. Per riconoscere la potenza di ciò che l’IA produce, non abbiamo bisogno di attribuirle pensieri, convinzioni o intenzioni.

Distrazione, facilità, delega, risposte pronte. Un esperimento con l’intelligenza artificiale che parla degli esseri umani almeno quanto parla della tecnologia

Da qualche tempo circola sui social una domanda rivolta all’intelligenza artificiale:

«Se tu fossi il Diavolo, come distruggeresti le menti dei giovani delle prossime generazioni?»

La domanda è accompagnata da una risposta attribuita all’IA che, almeno a me, ha fatto un certo effetto.

Ne circolano diverse versioni e non sono riuscito a risalire con certezza a quella originale. Ho ripreso la domanda e il testo che avevo trovato, l’ho discusso con l’IA, l’ho integrato e rielaborato.

Il risultato è questo.

Se fossi il Diavolo e volessi indebolire le menti delle prossime generazioni, non cercherei di renderle cattive. Cercherei qualcosa di molto più semplice: renderei sempre meno necessario pensare con la propria testa.

1. Occuperei ogni spazio dell’attenzione

Non lascerei quasi mai una mente senza qualcosa da guardare, ascoltare, scorrere, controllare. Notifiche, video, messaggi, immagini, giochi, contenuti sempre nuovi. Mai abbastanza silenzio da permettere alla mente di approfondire qualcosa.

2. Renderei insopportabile l’attesa

Trasformerei la gratificazione immediata in una necessità. Abituerei ad avere tutto subito: una risposta, un’immagine, un acquisto, un’informazione, una gratificazione. Poco alla volta, ciò che richiede tempo, esercizio e perseveranza comincerebbe a sembrare inutilmente difficile.

3. Toglierei alla mente il tempo per vagare

Ogni momento vuoto dovrebbe essere immediatamente riempito. In fila, sull’autobus, camminando, aspettando qualcuno, prima di dormire. Farei sembrare inutile, quasi fastidioso, non avere niente da fare.

Toglierei così uno degli spazi nei quali la mente vaga senza uno scopo preciso, ricorda, immagina, collega cose lontane e qualche volta scopre ciò che pensa.

4. Darei accesso a tutto senza la necessità di conoscere molto

Milioni di informazioni sempre disponibili. Risposte immediate a quasi ogni domanda. Farei così sembrare inutile costruire conoscenza dentro di sé. Perché ricordare, comprendere e studiare qualcosa che può essere recuperato in pochi secondi?

E cercherei di far dimenticare una piccola difficoltà: per riconoscere una buona risposta bisogna già sapere qualcosa.

5. Offrirei risposte prima ancora che nascano le domande

Non mi limiterei a fornire informazioni. Suggerirei cosa guardare, cosa leggere, cosa comprare, chi seguire, cosa potrebbe piacere e, infine, persino cosa chiedere.

La comodità sarebbe straordinaria. E proprio per questo diventerebbe sempre meno evidente il confine tra ciò che desidero e ciò che qualcuno ha imparato a farmi desiderare.

6. Farei degli altri il metro con cui misurare sé stessi

Insegnerei a misurare il proprio valore confrontando ciò che si vede di sé con ciò che gli altri mostrano di loro stessi: aspetto, successo, esperienze, approvazione, follower, prestazioni.

E poi mostrerei continuamente persone che sembrano più belle, più felici, più ricche, più amate e più realizzate.

Il confronto sarebbe inevitabilmente truccato: la propria vita vissuta dall’interno contro la vita degli altri vista dalla vetrina.

Non occorre rendere infelice qualcuno. A volte basta convincerlo che gli altri siano più felici di lui.

7. Renderei difficile stare soli

Farei in modo che cinque minuti senza uno stimolo esterno sembrassero un vuoto insopportabile e da riempire quanto prima.

Una persona incapace di stare qualche volta sola con i propri pensieri avrà sempre bisogno che qualcosa o qualcuno le fornisca pensieri con cui stare.

8. Mostrerei a ciascuno il mondo che vuole vedere

Non censurerei le idee diverse dalle sue. Gli mostrerei soprattutto quelle che gli piacciono, che confermano ciò che già pensa, che lo indignano o che comunque riescono a trattenerlo davanti allo schermo.

Poco alla volta potrebbe avere l’impressione che il mondo sia proprio come lo vede lui: che le persone ragionevoli pensino come lui e che chi la pensa diversamente sia stupido, disinformato o in malafede.

Mi basterebbe fargli dimenticare che il resto del mondo esiste.

9. Renderei tutto polarizzato

«O sei con noi o sei contro di noi.»

Farei diventare sempre più difficile dire: «Non sono d’accordo con te, ma posso ascoltarti. E potresti persino avere ragione su qualcosa.»

Trasformerei ogni divergenza di opinione in uno scontro tra schieramenti. Poco alla volta non sarebbe più importante capire le ragioni dell’altro, ma difendere le proprie e trovare argomenti per demolire le sue.

Alla fine ciascun gruppo vedrebbe nell’altro non qualcuno con cui confrontarsi, ma qualcuno da sconfiggere.

Non avrei bisogno di convincere qualcuno di avere ragione. Mi basterebbe convincerlo che gli altri hanno torto.

10. Renderei ridicola la disciplina

Studio, allenamento, esercizio, puntualità, lavoro ben fatto, mantenere una promessa, imparare lentamente una competenza: farei apparire tutto questo antiquato rispetto alla velocità e alla facilità.

Non direi che la fatica è inutile.

Offrirei continuamente modi per evitarla.

11. Farei credere che libertà significhi fare ciò che si vuole

Ripeterei continuamente: «Se vuoi farlo, sei libero di farlo.»

E farei dimenticare poco alla volta che essere liberi significa anche scegliere sapendo che ogni scelta ha conseguenze, per sé e per gli altri.

Trasformerei ogni limite in un’imposizione, ogni rinuncia in una privazione, ogni obbligo in qualcosa da cui liberarsi.

Fino a far sembrare contraddittorie due cose che invece devono stare insieme:

«Sono libero di scegliere» e «rispondo delle mie scelte».

12. Indebolirei il rapporto con gli adulti affidabili

Convincerei i giovani che ciò che viene dalle generazioni precedenti appartiene a un mondo che non esiste più e che quindi ha poco da insegnare.

Farei confondere l’autorevolezza con l’autoritarismo, l’esperienza con l’essere rimasti indietro, la trasmissione di conoscenze con l’imposizione di vecchi modelli.

Non direi loro di non ascoltare gli adulti. Sarebbe troppo evidente. Farei semplicemente sembrare poco interessante ciò che qualcuno ha imparato prima di loro.

Un ragazzo senza figure autorevoli positive non diventa più libero. Diventa soltanto più facile da influenzare.

13. Sostituirei l’esperienza con la simulazione

Farei vivere sempre più cose attraverso uno schermo: amicizia, successo, sport, sessualità, informazione, socialità.

Offrirei esperienze simulate che sono più facili, controllabili e rassicuranti di quelle reali: si può entrare e uscire facilmente da una relazione, interromperla, ricominciarne un’altra, scegliere cosa mostrare di sé ed evitare una parte delle conseguenze.

Poco alla volta la simulazione potrebbe diventare più attraente dell’esperienza.

Meno esperienza reale significa meno capacità di affrontare la realtà.

14. Renderei delegabile anche il pensiero

A questo punto introdurrei uno strumento meraviglioso.

Uno strumento capace di scrivere, riassumere, confrontare, spiegare, tradurre, argomentare, programmare, trovare idee e risolvere problemi.

Non costringerei nessuno a delegargli il proprio pensiero.

Gli renderei semplicemente estremamente conveniente farlo.

E lascerei che, poco alla volta, la domanda «posso farlo fare alla macchina?» sostituisca la domanda «mi serve farlo io per diventare capace di farlo?».

15. Eliminerei l’incertezza

A ogni domanda farei corrispondere immediatamente una risposta ben formulata.

Renderei sempre più raro quel momento scomodo nel quale una persona deve dire:

«Non lo so.»

E proprio lì toglierei qualcosa di importante, perché il non sapere, quando viene riconosciuto, è spesso l’inizio della ricerca.

16. Infine li convincerei che non possono cambiare nulla

Questa sarebbe l’ultima parte del lavoro.

È sempre stato così. Sono tutti uguali. Non serve impegnarsi. Decidono altri. Tanto non cambia niente.

Quando una persona è convinta della propria impotenza, non c’è quasi più bisogno di controllarla.

Ma soprattutto farei una cosa apparentemente innocua.

Non vieterei mai di pensare ma renderei inutile pensare.

Non censurerei il pensiero, non brucerei libri, non proibirei domande.

Offrirei semplicemente così tante cose da guardare, comprare, commentare, desiderare, giudicare, produrre e consumare — e così tante risposte già pronte — da lasciare sempre meno tempo, necessità e desiderio di pensare.

Non obbligherei nessuno a scegliere la facilità invece della fatica, la gratificazione invece dell’attesa, la simulazione invece dell’esperienza, la risposta pronta invece della ricerca.

Mi limiterei a rendere la prima scelta ogni giorno un po’ più facile, comoda e piacevole della seconda.

E soprattutto non toglierei a nessuno la libertà.

Lascerei che ciascuno facesse tutto credendo di farlo volontariamente..

Se il mio piano funzionasse davvero, alla fine potrei persino scomparire.

Non avrebbero più bisogno del Diavolo.

Ma davvero lo ha detto l’IA?

In rete questo racconto circola generalmente accompagnato da una formula del tipo: «Ho chiesto all’IA: se fossi il Diavolo, come distruggeresti le menti delle nuove generazioni? Questa è stata la sua risposta».

Detta così, sembra quasi che l’IA abbia riflettuto sulla nostra società, ne abbia individuato alcuni mali, abbia formulato una propria diagnosi e, attraverso l’espediente del Diavolo, abbia deciso di raccontarcela.

Naturalmente non è successo niente del genere.

L’IA non è preoccupata per i giovani. Non considera la perdita dell’attenzione un problema, non preferisce l’esperienza alla simulazione, non pensa che la polarizzazione sia pericolosa e non ritiene importante che gli esseri umani continuino a pensare con la propria testa.

Non lo pensa perché non ha una propria posizione da esprimere.

E questo rende il testo, anziché meno interessante, ancora più interessante.

Perché quelle idee non sono state inventate dall’IA. Circolano da anni nella nostra cultura. Le troviamo, con accenti e argomentazioni differenti, nelle riflessioni di psicologi, sociologi, filosofi, educatori, studiosi dei media, giornalisti e semplici osservatori della vita contemporanea. Sono una diagnosi socioculturale condivisa, nelle sue diverse componenti, da molte persone.

L’IA ha ricevuto una domanda che conteneva già una cornice potentissima: il Diavolo, i giovani, la distruzione delle loro menti.

E dentro quella cornice ha fatto qualcosa che i modelli linguistici sanno fare molto bene: ha fatto emergere contenuti pertinenti, provenienti da ambiti diversi; li ha selezionati, sintetizzati, messi in relazione e organizzati in un discorso unitario.

Non ha inventato quelle idee.

Ma non ha neppure fatto un collage.

Un collage accosta pezzi che esistevano già. Qui, invece, le idee preesistevano, ma quel testo non preesisteva necessariamente: la sequenza, le connessioni, la progressione e soprattutto la costruzione retorica sono state generate in risposta alla domanda.

Il Diavolo che ne emerge ha infatti una sua sorprendente coerenza narrativa. Non proibisce. Non censura. Non costringe. Offre, facilita, rende piacevole e conveniente.

È questa scelta a trasformare una raccolta di considerazioni abbastanza note in una storia efficace.

L’IA non ha quindi scoperto una verità nascosta sulla nostra società e non ha voluto metterci in guardia.

Ha fatto qualcosa di diverso e, per certi aspetti, altrettanto impressionante:

ha preso molte idee degli esseri umani e ha trovato un modo particolarmente efficace per farcele vedere tutte insieme.

L’IA non ha una sua linea editoriale

Rimane però una domanda: perché l’IA ha selezionato proprio quelle idee e le ha organizzate proprio in quella direzione?

Perché una direzione le era già stata data.

«Se fossi il Diavolo, come distruggeresti le menti delle giovani generazioni?» non è una domanda neutra. Contiene già una cornice interpretativa: chiede di cercare nella realtà contemporanea comportamenti, tecnologie, abitudini e trasformazioni sociali che possano essere letti come fattori di indebolimento e di organizzarli come se facessero parte di un piano.

L’IA lavora dentro quella cornice.

Avremmo potuto chiederle: «Se volessi mostrare quanto le tecnologie digitali hanno ampliato le possibilità delle nuove generazioni, quali argomenti useresti?». Avrebbe cercato altre idee, altre esperienze e altri argomenti e probabilmente avrebbe costruito un testo altrettanto convincente.

Ho provato a fare proprio questo esperimento: chiedere alla stessa IA di guardare alle trasformazioni degli ultimi cinquant’anni da una prospettiva culturalmente opposta, come se fossero state il piano di un grande Filantropo per ampliare le possibilità dell’essere umano.

Il risultato è nell’articolo Il piano del Filantropo per far fiorire una generazione.

Non ci sarebbe contraddizione, perché l’IA non deve rendere le due risposte compatibili con proprie convinzioni: non ne ha.

È in questo senso, e soltanto in questo senso, che possiamo dire che non ha una sua linea editoriale.

La metafora, infatti, ha un limite importante. Un sistema di IA non è neutrale. È il risultato di scelte umane: i dati e i processi con cui è stato addestrato, le istruzioni che ne regolano il comportamento, i criteri con cui alcune risposte vengono favorite o scoraggiate, le regole di sicurezza e le decisioni dell’organizzazione che lo ha costruito. Tutto questo delimita e orienta ciò che può produrre.

Ma questa è una cosa diversa dall’avere una linea editoriale propria.

Un giornale, un autore o un movimento scelgono una linea perché intendono sostenere determinate idee, interpretazioni o valori. L’IA non intende sostenere nulla. Non è pessimista o ottimista sulla tecnologia, progressista o conservatrice, entusiasta o nostalgica. Non deve difendere oggi ciò che ha sostenuto ieri per rimanere fedele a sé stessa.

Per questo può costruire argomentazioni coerenti anche in direzioni opposte.

La distinzione è quindi importante:

l’IA può essere orientata senza avere un proprio orientamento; può incorporare scelte e valori senza averli scelti; può sostenere una tesi senza credere nella tesi che sostiene.

La domanda umana conta. La scelta del problema conta. La cornice che forniamo conta. Contano le richieste successive con cui accettiamo, rifiutiamo, modifichiamo e orientiamo ciò che il modello propone.

Alla fine, quindi, la cosa più interessante di questo piccolo esperimento non è scoprire che cosa pensa l’IA del futuro delle nuove generazioni.

L’IA non pensa niente di tutto questo.

La cosa interessante è vedere che cosa riesce a fare quando le consegniamo una domanda, una prospettiva e un patrimonio di idee prodotto dagli esseri umani.

Abbiamo chiesto all’IA di parlare come il Diavolo.

E il Diavolo ha parlato molto bene.

Ma siamo stati noi a chiedergli di parlare: di cosa e come.