Quali problemi nascono quando l’IA entra stabilmente nella nostra vita?
Sei qui: Ask System → L’Intelligenza Artificiale → Criticità
I problemi più importanti dell’Intelligenza Artificiale potrebbero non derivare soltanto da ciò che l’IA non riesce a fare, ma anche da ciò che riesce a fare molto bene.
Errori, informazioni false, discriminazioni, violazioni della privacy, usi fraudolenti e manipolazione sono criticità evidenti e richiedono regole, controlli e strumenti di protezione. Ma quando l’IA entra stabilmente nella nostra vita si apre anche un problema meno visibile: come cambiamo noi quando cominciamo ad affidarci abitualmente a sistemi capaci di svolgere attività che prima svolgevamo personalmente?
Quando una tecnologia diventa ambiente
Una tecnologia cambia davvero la nostra vita quando smettiamo quasi di accorgerci della sua presenza. Non la utilizziamo più soltanto per compiti occasionali: entra nel modo in cui cerchiamo informazioni, scriviamo, studiamo, lavoriamo, prendiamo decisioni e comunichiamo.
L’IA può progressivamente assumere proprio questa funzione. Può selezionare ciò che vediamo, suggerirci che cosa leggere o acquistare, organizzare informazioni, scrivere per noi, proporre decisioni e diventare un interlocutore al quale ci rivolgiamo ogni volta che incontriamo un problema.
Questo può renderci più efficienti e ampliare enormemente le nostre possibilità. Ma modifica anche la distribuzione delle attività tra noi e la macchina.
Ciò che deleghiamo può trasformare ciò che sappiamo fare
Ogni volta che una tecnologia svolge stabilmente un’attività al nostro posto, diventa meno necessario esercitare personalmente alcune capacità. Non è necessariamente un problema: abbiamo sempre utilizzato strumenti per liberarci da attività faticose, ripetitive o poco importanti.
La questione cambia quando deleghiamo attività che contribuiscono a costruire e mantenere capacità di cui abbiamo bisogno per comprendere, scegliere e controllare. Se affidiamo sistematicamente all’IA la ricerca delle informazioni, la formulazione delle argomentazioni, la scrittura, la valutazione delle alternative o perfino la definizione dei problemi, dobbiamo chiederci quali capacità continueremo a sviluppare e quali potrebbero indebolirsi.
Si apre così un problema di autonomia: più l’IA diventa capace di assisterci, più può diventare conveniente affidarle attività cognitive; ma più le deleghiamo, più rischiamo di avere bisogno dell’IA proprio perché abbiamo smesso di esercitarle.
I problemi futuri dell’IA potrebbero derivare non soltanto dai suoi fallimenti, ma anche dai suoi successi: l’efficacia genera fiducia, la fiducia favorisce la delega e la delega può generare dipendenza.
Non ci sono soltanto conseguenze individuali
L’IA entra nella nostra vita attraverso sistemi costruiti e controllati da organizzazioni che decidono quali tecnologie sviluppare, quali dati utilizzare, quali servizi offrire e secondo quali interessi economici e sociali.
Diventano quindi importanti anche questioni di potere: chi controlla le infrastrutture dell’IA, chi stabilisce le regole dei sistemi che utilizziamo, quali informazioni vengono raccolte, quali comportamenti vengono incentivati e quanto diventiamo dipendenti da servizi che non controlliamo.
A questo si aggiungono effetti sul lavoro, sulla produzione culturale, sull’informazione e sulle relazioni sociali. Se produrre testi, immagini e altri contenuti diventa estremamente facile, per esempio, possiamo avere una crescita enorme della produzione ma anche maggiore standardizzazione, difficoltà nel riconoscere ciò che è autentico e una progressiva perdita di valore del semplice prodotto.
La questione non è scegliere tra entusiasmo e paura
Molte di queste conseguenze non sono inevitabili. Dipendono da come progettiamo i sistemi, dalle regole che adottiamo e soprattutto da quali attività decidiamo di affidare all’IA e quali vogliamo continuare a mantenere sotto il nostro controllo.
Per questo non è molto utile chiedersi genericamente se l’IA sia buona o cattiva. È più utile osservare concretamente che cosa cambia quando entra nelle nostre pratiche e domandarci, ogni volta, che cosa guadagniamo, che cosa rischiamo di perdere e quali condizioni ci permettono di mantenere autonomia e capacità di scelta.
