Se l’IA funziona bene, perché dovrei preoccuparmi?
Sei qui: Ask System → L’Intelligenza Artificiale → Criticità
Non dovremmo preoccuparci dell’IA per il semplice fatto che funziona bene. Se una tecnologia ci permette di lavorare meglio, accedere più facilmente alle informazioni, risolvere problemi o svolgere attività faticose e ripetitive, abbiamo buone ragioni per utilizzarla.
La questione è un’altra: il fatto che qualcosa funzioni bene non ci dice ancora quali conseguenze avrà il suo uso continuativo.
L’efficacia rende più facile affidarsi alla tecnologia
Quando uno strumento sbaglia spesso, siamo naturalmente prudenti. Controlliamo ciò che produce, manteniamo competenze alternative e siamo pronti a intervenire.
Se invece l’IA ci fornisce quasi sempre risultati migliori, più velocemente e con minore fatica, la prudenza può progressivamente diminuire. Cominciamo a utilizzarla più spesso, poi a considerarla normale e infine a costruire attività e abitudini dando per scontato che sia disponibile.
È così che una tecnologia può diventare quasi invisibile proprio mentre diventa sempre più presente.
Il problema è ciò che cambia mentre la utilizziamo
Ogni tecnologia efficace modifica le nostre pratiche. L’automobile ha cambiato il modo in cui ci spostiamo, il GPS il modo in cui ci orientiamo, i motori di ricerca il modo in cui cerchiamo informazioni. Non sono soltanto strumenti che svolgono meglio un’attività: finiscono per modificare anche il nostro comportamento.
L’IA può avere un effetto ancora più profondo perché entra direttamente in attività cognitive: scrivere, cercare informazioni, organizzare conoscenze, formulare spiegazioni, valutare alternative, prendere decisioni.
Se queste attività vengono progressivamente trasferite alla macchina, dobbiamo osservare non soltanto quanto bene le svolge l’IA, ma anche che cosa succede alle nostre capacità, alla nostra autonomia e alla nostra possibilità di controllarne i risultati.
Non dobbiamo preoccuparci perché l’IA funziona bene. Dobbiamo prestare attenzione proprio perché, funzionando bene, può diventare facile affidarle sempre più attività senza accorgerci di ciò che stiamo progressivamente delegando.
Ci sono conseguenze che non dipendono dagli errori
Un sistema potrebbe essere estremamente affidabile e creare comunque problemi. Potrebbe concentrare potere nelle organizzazioni che lo controllano, raccogliere grandi quantità di dati, modificare il mercato del lavoro, rendere alcune competenze meno esercitate, standardizzare parte della produzione culturale o creare nuove forme di dipendenza tecnologica.
Nessuno di questi problemi richiede necessariamente che l’IA sbagli. Alcuni possono nascere proprio dalla sua diffusione e dalla sua efficacia.
Preoccuparsi non significa avere paura
La preoccupazione utile non consiste quindi nel diffidare preventivamente dell’IA o nel cercare di limitarne l’uso perché potrebbe diventare troppo potente. Consiste nel osservare le conseguenze mentre la integriamo nelle nostre attività.
Possiamo chiederci che cosa guadagniamo, che cosa non abbiamo più bisogno di fare, quali capacità vogliamo comunque conservare, quali decisioni non vogliamo delegare e quali forme di controllo devono rimanere nelle nostre mani.
In questo senso, più l’IA diventa efficace, meno possiamo limitarci a discutere delle sue prestazioni. Dobbiamo discutere del rapporto che vogliamo costruire con una tecnologia che potrebbe diventare sempre più utile e proprio per questo sempre più difficile da non utilizzare.
