Che cosa rischiamo di perdere quando affidiamo una parte del nostro lavoro cognitivo all’IA?
Sei qui: Ask System → L’IA e i processi di pensiero → Guadagni e perdite cognitive
Quando affidiamo all’IA una parte del nostro lavoro cognitivo possiamo guadagnare tempo, possibilità e capacità operative. Ma ogni delega modifica anche ciò che continuiamo a fare personalmente.
Il rischio principale non è quindi semplicemente che l’IA faccia qualcosa al posto nostro. È che, delegando stabilmente determinate attività, cessiamo di esercitare proprio le capacità che quelle attività contribuivano a mantenere e sviluppare.
Possiamo perdere capacità che non esercitiamo più
Molte capacità cognitive non si conservano semplicemente perché le abbiamo acquisite una volta. Hanno bisogno di essere utilizzate.
Se affidiamo sistematicamente all’IA il ricordare, sintetizzare, formulare, confrontare, argomentare, risolvere problemi o prendere determinate decisioni, alcune delle capacità coinvolte in queste attività potrebbero essere esercitate sempre meno.
Questo non significa che ogni attività debba essere conservata per sempre. Abbiamo sempre delegato funzioni cognitive agli strumenti: alla scrittura, ai libri, alle calcolatrici, ai motori di ricerca.
La questione è capire quali capacità possiamo permetterci di esercitare meno e quali vogliamo invece continuare a possedere personalmente.
Possiamo diventare più efficaci senza diventare più capaci
L’IA rende possibile una situazione in parte paradossale: possiamo ottenere risultati sempre migliori mentre alcune nostre capacità rimangono ferme o si indeboliscono.
Una persona può produrre testi migliori, analisi più sofisticate o soluzioni più articolate perché dispone di uno strumento molto potente. Ma la qualità del risultato ottenuto insieme all’IA non ci dice automaticamente quali capacità possieda la persona senza quell’aiuto.
Possiamo diventare molto più capaci di ottenere risultati senza diventare altrettanto più capaci di produrli, comprenderli o valutarli autonomamente.
Possiamo perdere la capacità di formulare i problemi
C’è poi una perdita meno evidente. Se utilizziamo abitualmente l’IA non soltanto per cercare risposte, ma anche per decidere quali domande porre, quali aspetti siano importanti e come impostare un problema, possiamo progressivamente delegare qualcosa che viene prima della risposta.
Una parte importante del pensiero consiste infatti nel riconoscere che esiste un problema, costruirne una rappresentazione, individuare ciò che non sappiamo e formulare domande che permettano di procedere.
Un sistema capace di proporci continuamente domande, interpretazioni e percorsi può ampliare enormemente le nostre possibilità. Ma, se gli lasciamo sistematicamente anche l’iniziativa, rischiamo di diventare molto bravi a scegliere fra possibilità che qualcun altro ha generato e meno capaci di generarne autonomamente.
Possiamo perdere criteri per giudicare ciò che riceviamo
Per utilizzare bene una conoscenza esterna dobbiamo possedere abbastanza conoscenza interna da poterla interrogare e valutare.
Se progressivamente esternalizziamo anche le conoscenze e le capacità che ci permettono di controllare le risposte dell’IA, può nascere un problema circolare: abbiamo sempre più bisogno dello strumento anche per valutare ciò che lo strumento ci propone.
A quel punto la dipendenza non riguarda più soltanto l’esecuzione di un’attività. Comincia a riguardare il giudizio.
Possiamo restringere il nostro spazio di possibilità
L’IA può mostrarci alternative che non avevamo immaginato. Ma può produrre anche l’effetto opposto.
Se ci abituiamo ad assumere come punto di partenza le soluzioni che propone, il nostro pensiero può progressivamente muoversi all’interno dello spazio di possibilità generato dalla macchina.
Non significa che quelle possibilità siano necessariamente povere. Possono essere numerosissime e sofisticate. Il problema è un altro: potremmo smettere di accorgerci che ciò che ci viene proposto non coincide con tutto ciò che sarebbe possibile pensare.
La perdita più importante potrebbe essere difficile da vedere
Una capacità che scompare non produce necessariamente un fallimento immediato. L’IA può compensarla.
Proprio per questo alcune perdite cognitive potrebbero diventare poco visibili: continuiamo a ottenere buoni risultati e non abbiamo occasione di accorgerci che una parte crescente delle capacità necessarie per ottenerli non è più disponibile senza lo strumento.
Il problema emerge quando l’IA non è disponibile, sbaglia, affrontiamo una situazione per la quale il suo aiuto non è sufficiente oppure dobbiamo decidere se possiamo fidarci proprio della risposta che ci sta fornendo.
Non si tratta quindi di evitare la delega
Rinunciare alla delega cognitiva non sarebbe né realistico né necessariamente desiderabile. Gli strumenti cognitivi hanno sempre trasformato ciò che ricordiamo, calcoliamo, cerchiamo e pensiamo direttamente.
Con l’IA la questione diventa però particolarmente importante perché aumenta enormemente il numero e la complessità delle attività che possiamo affidare all’esterno.
Per questo non basta chiedersi «che cosa posso delegare?». Dobbiamo chiederci anche: «se smetto di fare personalmente questa attività, quale capacità potrei smettere di esercitare, e mi interessa conservarla?»
La scelta importante non è quindi tra usare o non usare l’IA, ma tra delegare consapevolmente e delegare senza accorgerci di ciò che stiamo progressivamente cedendo.
