Cosa potrebbe succedere se l’IA diventasse sempre più capace e affidabile?
Sei qui: Ask System → L’Intelligenza Artificiale → Criticità
Potremmo pensare che molti problemi dell’Intelligenza Artificiale siano destinati a diminuire man mano che i sistemi diventano più capaci e affidabili. Se l’IA commettesse meno errori, inventasse meno informazioni e producesse risultati migliori, avremmo certamente risolto alcune criticità importanti.
Ma proprio il miglioramento dell’IA potrebbe aprirne altre. Quanto più una tecnologia funziona bene, tanto più abbiamo buone ragioni per utilizzarla e affidarle attività che prima svolgevamo personalmente.
Un’IA migliore diventa più facile da delegare
Se un sistema scrive meglio di noi una relazione, trova più rapidamente le informazioni, analizza grandi quantità di dati, individua alternative che non avevamo considerato e commette pochi errori, diventa difficile trovare una buona ragione per non utilizzarlo.
E se possiamo fidarci dei risultati, diventa altrettanto naturale ridurre i controlli. Attività che inizialmente svolgevamo insieme all’IA possono progressivamente essere affidate quasi completamente alla macchina.
Questo non sarebbe necessariamente negativo. Delegare a una tecnologia attività che svolge meglio di noi può liberarci tempo e risorse cognitive per dedicarci ad altro. Il problema è capire che cosa stiamo delegando e che cosa succede a noi quando smettiamo di farlo personalmente.
Il successo può produrre dipendenza
Una capacità che non esercitiamo più può indebolirsi. E quanto più si indebolisce, tanto più diventa conveniente continuare a delegarla. Può così formarsi un circuito nel quale l’efficacia della tecnologia aumenta progressivamente la nostra dipendenza dalla tecnologia stessa.
Il fenomeno è particolarmente delicato quando riguarda attività cognitive. Se l’IA ci aiuta stabilmente a cercare informazioni, formulare argomentazioni, prendere decisioni, scrivere, risolvere problemi o valutare alternative, dobbiamo chiederci quali conoscenze e capacità sia comunque necessario mantenere per poter comprendere ciò che l’IA produce, giudicarlo e decidere quando non seguirlo.
Paradossalmente, un’IA molto affidabile potrebbe richiedere più attenzione, non meno: l’efficacia genera fiducia, la fiducia favorisce la delega e la delega può generare dipendenza.
Potrebbe cambiare anche ciò che consideriamo necessario saper fare
Quando una tecnologia diventa stabilmente migliore di noi in una determinata attività, è naturale domandarsi perché dovremmo continuare a imparare a svolgerla personalmente.
Non esiste una risposta valida per tutte le attività. Alcune potranno essere delegate quasi completamente senza conseguenze importanti. Altre, invece, potrebbero essere necessarie proprio per conservare la capacità di utilizzare consapevolmente l’IA.
Potremmo quindi trovarci davanti a una questione nuova: non decidere che cosa imparare sulla base di ciò che una macchina non sa fare, ma sulla base di ciò che noi dobbiamo continuare a saper fare anche quando la macchina lo fa meglio.
Il problema non sarebbe più soltanto correggere l’IA
Con sistemi poco affidabili il problema è evidente: dobbiamo controllarli perché possono sbagliare. Con sistemi molto affidabili la questione diventa più sottile: dobbiamo decidere quanto controllo vogliamo mantenere anche quando avremmo buone ragioni per rinunciarvi.
È possibile quindi che alcune delle questioni più importanti dell’IA emergano non quando la tecnologia fallisce, ma quando funziona talmente bene da diventare quasi invisibile e indispensabile.
La domanda sul futuro dell’IA non riguarda perciò soltanto quanto diventeranno capaci le macchine. Riguarda anche quali capacità, conoscenze e responsabilità vorremo continuare a mantenere nostre.
