Quando l’IA ci aiuta a sviluppare le nostre capacità e quando invece ci rende dipendenti?

Sei qui: Ask System → L’IA e i processi di pensiero → Autonomia e dipendenza

La differenza non sta semplicemente nell’usare molto o poco l’IA. Possiamo utilizzarla intensamente e diventare più capaci; possiamo utilizzarla anche per attività semplici e abituarci progressivamente a non svolgerle più senza il suo aiuto.

Il criterio più importante è osservare che cosa accade alle nostre capacità mentre utilizziamo l’IA.

L’IA ci fa crescere quando il suo aiuto diventa capacità nostra

L’IA può mostrarci un modo di affrontare un problema che non conoscevamo, guidarci nei passaggi più difficili, proporci esempi, correggerci, farci domande o metterci davanti a punti di vista differenti.

In questi casi possiamo inizialmente fare con l’IA qualcosa che da soli non sapremmo fare. Ma se attraverso l’interazione comprendiamo progressivamente il processo e diventiamo capaci di affrontare situazioni simili con maggiore autonomia, una parte dell’aiuto ricevuto si è trasformata in capacità personale.

È la logica dello scaffolding: il sostegno è utile proprio perché permette, almeno in parte, di averne progressivamente meno bisogno.

La dipendenza nasce quando la capacità rimane nello strumento

Può accadere però il contrario. L’IA ci permette di svolgere molto bene un’attività, ma ogni volta abbiamo bisogno che sia ancora lei a compiere le operazioni essenziali.

Otteniamo risultati migliori, ma non diventiamo necessariamente più capaci. Possiamo anzi perdere progressivamente alcune capacità perché abbiamo sempre meno occasioni per esercitarle.

In questo caso l’IA non funziona più soltanto come sostegno: diventa una protesi cognitiva. La prestazione rimane possibile, ma dipende stabilmente dalla presenza dello strumento.

Un buon criterio è osservare la traiettoria dell’aiuto: se nel tempo possiamo fare di più anche noi, l’IA sta contribuendo allo sviluppo delle nostre capacità; se possiamo fare sempre di più soltanto grazie all’IA, sta crescendo soprattutto la nostra dipendenza da essa.

Essere dipendenti da uno strumento non è sempre un problema

Non tutte le dipendenze devono essere eliminate. Dipendiamo già da innumerevoli tecnologie e non avrebbe senso voler recuperare un’autonomia assoluta.

La questione è quali dipendenze siamo disposti ad accettare. Possiamo rinunciare senza particolari conseguenze ad alcune capacità diventate poco utili. È più problematico perdere quelle che ci servono per comprendere una situazione, valutare ciò che ci viene proposto, prendere decisioni o controllare lo stesso strumento dal quale dipendiamo.

Per questo non dobbiamo chiederci semplicemente se l’IA ci renda dipendenti. Dobbiamo chiederci da che cosa stiamo diventando dipendenti e quali capacità rimangono nostre nonostante quella dipendenza.

La prova più interessante viene dopo

Per capire che tipo di rapporto abbiamo costruito con l’IA può essere utile osservare che cosa accade quando il suo sostegno diminuisce.

Riusciamo ad affrontare meglio un problema simile? Sappiamo spiegare ciò che abbiamo fatto? Riconosciamo un errore? Sappiamo decidere quando la risposta dell’IA non ci convince?

Se qualcosa è rimasto a noi, l’interazione non ha prodotto soltanto una buona prestazione. Ha contribuito a trasformare ciò che siamo capaci di fare.