Convivere con l’intelligenza artificiale: quali problemi si aprono?
In breve
L’IA non è soltanto uno strumento più potente dei precedenti: la sua diffusione modifica il modo in cui produciamo conoscenza, prendiamo decisioni, lavoriamo e distribuiamo capacità e potere. Per questo convivere con l’IA apre questioni che non sono soltanto tecnologiche: riguardano la dipendenza cognitiva, l’affidabilità delle informazioni, la responsabilità, le disuguaglianze e il controllo delle infrastrutture. Non si tratta di prevedere se l’IA sarà “buona” o “cattiva”, ma di riconoscere i problemi che emergono mentre diventa parte ordinaria della nostra vita e imparare a governarli.
Nel primo articolo abbiamo cercato di capire che cosa chiamiamo intelligenza artificiale.
Abbiamo visto che non si tratta di una singola tecnologia, ma di un campo molto eterogeneo. Sistemi differenti possono classificare immagini, individuare anomalie, fare previsioni, raccomandare contenuti, produrre testi e immagini, pianificare azioni o interagire con l’ambiente.
Abbiamo anche visto che una caratteristica importante di molti di questi sistemi consiste nella capacità di produrre risultati che non sono stati programmati uno per uno in anticipo.
Questo non significa però che siano indipendenti dalle persone. Al contrario, dietro un sistema di IA troviamo dati selezionati, modelli progettati, obiettivi definiti, procedure di addestramento, valutazioni umane, criteri attraverso i quali alcuni comportamenti vengono favoriti e altri scoraggiati.
Fin qui abbiamo cercato soprattutto di descrivere ciò che abbiamo davanti.
Ma non appena questi sistemi entrano nelle nostre attività si apre un altro insieme di domande.
Possiamo fidarci dei loro risultati?
Quali attività possiamo delegare?
Quali decisioni dovrebbero rimanere umane?
Chi risponde quando qualcosa va storto?
Quanto sono realmente autonomi questi sistemi?
Possiamo attribuire loro scopi e intenzioni?
Sono neutrali?
Chi decide quali valori debbano orientarne il comportamento?
E, soprattutto, che cosa accade a noi quando cominciamo a convivere stabilmente con sistemi capaci di fare una parte crescente delle cose che prima facevamo soltanto noi?
Non sono più soltanto domande sull’intelligenza artificiale.
Sono domande sul rapporto che decidiamo di costruire con essa.
Se una risposta sembra convincente, possiamo considerarla affidabile?
Una delle caratteristiche più sorprendenti dei sistemi contemporanei di IA è la qualità delle loro prestazioni.
Un sistema può riconoscere una configurazione in un’immagine che una persona non aveva notato, produrre una previsione accurata, tradurre un testo, generare un’immagine realistica o costruire una risposta linguisticamente impeccabile a una domanda complessa.
Questa efficacia può facilmente trasformarsi in fiducia.
Ma qualità apparente della prestazione e affidabilità non sono la stessa cosa.
Un sistema di riconoscimento può produrre falsi positivi e falsi negativi. Una previsione può essere statisticamente fondata e tuttavia risultare sbagliata nel singolo caso. Un sistema generativo può produrre una risposta perfettamente formulata contenente informazioni inesatte, inferenze arbitrarie o riferimenti inesistenti.
Il problema diventa particolarmente insidioso quando l’errore ha la stessa forma linguistica della risposta corretta.
La prima attenzione diventa quindi quasi banale nella formulazione, ma non nelle conseguenze:
Una risposta convincente non è necessariamente una risposta corretta.
E questo vale, in forme differenti, per tutta l’intelligenza artificiale, non soltanto per i modelli linguistici.
Possiamo sapere perché l’IA è arrivata proprio a quella conclusione?
Un sistema di IA può produrre risultati molto accurati e, nello stesso tempo, non permetterci di ricostruire facilmente perché, in un caso particolare, sia arrivato proprio a quel risultato.
Le due cose non sono in contraddizione.
Possiamo sapere come è stato costruito un sistema, come è stato addestrato e quanto sia accurato nelle prove alle quali è stato sottoposto. Questo non significa necessariamente poter spiegare in modo semplice quali elementi abbiano determinato ogni sua singola risposta o decisione.
È il problema che viene affrontato attraverso concetti come interpretabilità e spiegabilità.
Un esempio può renderlo più concreto.
Un sistema utilizzato durante un’endoscopia segnala una zona dell’immagine come possibile lesione. Al medico non interessa soltanto sapere che quel sistema, statisticamente, riconosce molto bene quel tipo di lesioni. Può essere importante anche capire quali caratteristiche dell’immagine abbiano determinato quella specifica segnalazione, soprattutto se da essa devono derivare ulteriori decisioni cliniche.
La questione diventa ancora più evidente quando un sistema contribuisce a prendere decisioni direttamente sulle persone.
Se un algoritmo suggerisce una canzone che non ci piace, sapere perché l’abbia scelta ha un’importanza limitata.
Se invece contribuisce a negare un credito, escludere una persona da una selezione, stabilire una priorità sanitaria o determinare l’accesso a un servizio, poter comprendere e contestare le ragioni di quella conclusione diventa molto più importante.
Non tutti i sistemi di IA sono ugualmente opachi ( possibilità di comprendere quali elementi e quali passaggi abbiano determinato una sua specifica risposta, classificazione o decisione) e non sempre abbiamo bisogno dello stesso livello di spiegazione, ma la trasparenza di un sistema è importante.
Quanto più rilevanti sono le conseguenze di una decisione, tanto maggiore dovrebbe essere l’esigenza di trasparenza e spiegabilità del sistema che contribuisce a determinarla (trasparenza/opacità).
Quanto maggiori sono le conseguenze di una decisione prodotta o sostenuta dall’IA, tanto più importante diventa poter comprendere, verificare e, se necessario, contestare il processo che ha portato a quella decisione.
L’accuratezza, quindi, non esaurisce il problema dell’affidabilità.
Un sistema può essere molto accurato in generale. Ma quando la sua conclusione riguarda una persona concreta, quella persona può avere bisogno di qualcosa di più di una percentuale di accuratezza.
Può avere bisogno di sapere:
Perché proprio questa decisione, in questo caso?
Essere molto efficace significa poter decidere al nostro posto?
Supponiamo di disporre di un sistema capace di analizzare più dati di qualunque essere umano e di produrre previsioni statisticamente migliori.
Dovremmo affidargli la decisione?
Non necessariamente.
Dobbiamo distinguere almeno due situazioni:
utilizzare l’IA per sostenere una decisione;
attribuire all’IA la decisione.
Torniamo all’esempio dell’endoscopia.
Un sistema può analizzare le immagini e richiamare l’attenzione del medico su una zona compatibile con una possibile lesione.
La macchina contribuisce alla decisione mettendo a disposizione una capacità che può essere estremamente utile.
Ma la segnalazione non coincide con l’intera decisione clinica.
Il problema diventa ancora più evidente quando pensiamo alla selezione del personale, alla concessione di un credito, alla determinazione di un premio assicurativo, all’accesso a un servizio, a decisioni sanitarie, amministrative o giudiziarie.
In questi casi non è sufficiente domandarsi:
“Quanto è accurato l’algoritmo?”
Occorre anche chiedersi:
Chi deve avere l’autorità di prendere una decisione che produce conseguenze sulla vita di un’altra persona?
Qui l’accuratezza incontra l’etica.
Può una macchina stabilire che cosa sia importante?
Un sistema di IA può essere molto efficace nel cercare la soluzione che meglio soddisfa un obiettivo prestabilito.
Ma chi stabilisce quale debba essere quell’obiettivo?
Immaginiamo un sistema utilizzato per stabilire una priorità nell’accesso a una risorsa limitata.
Deve privilegiare l’urgenza? La probabilità di successo? Il costo? Il numero di persone che potrebbero beneficiare della decisione? L’ordine di arrivo? L’età? La vulnerabilità?
Prima che la macchina possa calcolare quale sia la soluzione migliore, qualcuno deve stabilire rispetto a quale criterio debba essere considerata migliore.
Prima che la macchina possa calcolare, qualcuno deve stabilire che cosa abbia valore.
Non esiste una soluzione puramente computazionale a un problema nel quale sono in conflitto valori differenti.
Questo significa che una decisione apparentemente “presa dall’algoritmo” può contenere scelte umane molto precedenti alla sua esecuzione: qualcuno ha scelto le variabili, stabilito l’obiettivo, determinato le soglie, deciso quali errori siano più accettabili di altri.
La macchina può effettuare il calcolo.
Non per questo la macchina ha stabilito il criterio in base al quale quel calcolo deve avere valore.
Che cosa significa davvero mantenere “l’essere umano nel circuito”?
Una risposta frequente ai problemi della decisione automatizzata consiste nel principio del human in the loop: mantenere un essere umano all’interno del processo decisionale.
È un principio importante.
Ma può diventare una rassicurazione puramente formale.
Immaginiamo che un algoritmo produca una raccomandazione e che un operatore umano debba semplicemente approvarla.
Se quell’operatore non comprende sufficientemente il funzionamento del sistema, non dispone delle informazioni necessarie per valutarne la proposta, non ha tempo per riesaminarla oppure non possiede realmente l’autorità per contraddirla, la presenza umana cambia poco.
Abbiamo automatizzato la decisione lasciando una persona alla fine del processo per certificarla.
Il controllo umano è qualcosa di più esigente.
Il controllo umano è reale quando una persona può comprendere abbastanza da giudicare, possiede l’autorità per dissentire e può assumersi la responsabilità della decisione.
La parola decisiva diventa allora responsabilità.
Quando una decisione può produrre conseguenze significative sui diritti, sulla dignità, sulla salute, sulle opportunità o sulle condizioni materiali di una persona, deve rimanere identificabile qualcuno al quale sia possibile chiedere:
Perché avete deciso questo?
“Lo ha deciso l’algoritmo” non può diventare una forma tecnologicamente sofisticata di deresponsabilizzazione.
Quanto è realmente autonoma un’intelligenza artificiale?
Parliamo frequentemente di “sistemi autonomi”, ma una sola parola rischia di indicare fenomeni molto differenti.
Un sistema può essere autonomo nel produrre una risposta: il risultato non è stato scritto anticipatamente da una persona, ma viene generato dal sistema in relazione ai dati che riceve.
Può avere un certo grado di autonomia nel modificare il proprio comportamento o le proprie strategie sulla base dei risultati ottenuti.
Può inoltre essere capace di pianificare, utilizzare strumenti, scomporre un obiettivo in sotto-obiettivi, verificare i risultati e modificare la strategia quando questa non funziona.
Sono forme reali di autonomia operativa.
Ma c’è un livello diverso: l’autonomia degli scopi.
Un sistema può scegliere come raggiungere un obiettivo senza aver scelto l’obiettivo stesso. Può individuare autonomamente i mezzi, costruire passaggi intermedi e correggere il proprio percorso, ma lo scopo rispetto al quale tutto questo acquista senso è stato stabilito, direttamente o indirettamente, all’interno del sistema costruito dagli esseri umani.
Possiamo quindi parlare di autonomia dell’IA, purché precisiamo rispetto a che cosa.
Un sistema può essere molto autonomo nel decidere come raggiungere uno scopo senza essere autonomo nello stabilire quale scopo valga la pena perseguire.
È una differenza importante rispetto a ciò che normalmente intendiamo quando attribuiamo autonomia a una persona.
E apre una domanda ulteriore: se un sistema persegue uno scopo, pianifica come raggiungerlo e modifica il proprio comportamento per riuscirci, possiamo dire che possieda qualcosa di simile a un’intenzione?
Avere uno scopo significa avere intenzionalità?
Possiamo immaginare una progressione.
Un sistema riceve uno scopo.
Poi sceglie autonomamente i mezzi per raggiungerlo.
Successivamente genera sotto-obiettivi.
Controlla i risultati.
Modifica le strategie.
Può eventualmente rivedere alcuni obiettivi intermedi e generarne di nuovi.
Il comportamento diventa progressivamente più difficile da distinguere, nella descrizione quotidiana, da un comportamento intenzionale.
Saremmo spontaneamente portati a dire:
“Vuole ottenere X, quindi ha deciso di fare Y.”
Ma quella frase potrebbe essere soltanto un modo efficace di descrivere ciò che osserviamo.
Nell’esperienza umana, avere uno scopo sembra significare qualcosa di più dell’essere organizzati funzionalmente verso un risultato.
Lo scopo è uno scopo per qualcuno.
Da qui emerge una domanda alla quale non abbiamo oggi bisogno di dare una risposta definitiva:
C’è qualcuno per il quale quello scopo è uno scopo?
Non sappiamo se sistemi artificiali sufficientemente complessi possano arrivare a qualcosa di paragonabile all’intenzionalità umana.
Ma non possiamo neppure dedurre l’intenzionalità semplicemente dalla complessità del comportamento finalizzato.
Perché tendiamo così facilmente ad attribuire intenzioni alla macchina?
Con i sistemi conversazionali il problema assume una forma particolare.
Una macchina dice:
“capisco”.
“penso”.
“ritengo”.
“ti consiglio”.
“non sono d’accordo”.
Utilizza la prima persona, ricorda elementi della conversazione, risponde al nostro tono e può produrre forme linguistiche che associamo all’empatia.
È quasi inevitabile reagire socialmente.
L’antropomorfizzazione non è quindi soltanto un errore ingenuo dell’utente. È favorita dalla stessa forma dell’interazione.
Possiamo utilizzare espressioni come “l’IA pensa”, “sa”, “vuole” o “capisce” come abbreviazioni linguistiche.
Il problema nasce quando dimentichiamo che sono abbreviazioni e utilizziamo il comportamento linguistico come prova della presenza di processi mentali equivalenti ai nostri.
Una macchina può produrre il linguaggio dell’intenzionalità senza che questo dimostri l’esistenza dell’intenzionalità.
Un’intelligenza artificiale può essere neutrale?
Se abbiamo riconosciuto quanto lavoro e quante decisioni umane entrino nella costruzione di un sistema di IA, diventa difficile sostenere che quel sistema sia semplicemente neutrale.
Occorre però precisare bene questa affermazione.
Dire che un sistema di IA non è neutrale non significa dire che sia necessariamente fazioso, manipolatorio o inaffidabile.
Significa riconoscere che è il risultato di scelte.
Quali problemi deve affrontare? Quali dati devono essere utilizzati? Quali devono essere esclusi? Quali categorie vengono considerate rilevanti? Quali errori sono più gravi? Quali comportamenti devono essere premiati durante l’addestramento? Quali richieste devono essere rifiutate? Quali rischi sono considerati accettabili? Quali valori devono prevalere quando entrano in conflitto?
Persino decidere che un sistema debba essere “neutrale” richiede di stabilire che cosa intendiamo per neutralità.
L’IA ha qualcosa di simile alla linea editoriale di un giornale?
L’analogia con stampa e televisione può essere utile.
Un quotidiano può perseguire seriamente accuratezza, correttezza professionale e distinzione fra fatti e opinioni.
Questo non lo rende neutrale.
Qualcuno decide quali fatti siano notizie, quali meritino la prima pagina, quali fonti siano considerate autorevoli, quale lessico utilizzare e quali temi seguire nel tempo.
Anche senza falsificare nulla, una testata costruisce inevitabilmente una determinata rappresentazione della realtà.
Con l’IA avviene qualcosa di analogo, anche se attraverso meccanismi molto differenti.
Potremmo dire, con tutte le cautele necessarie, che:
ogni sistema di IA possiede qualcosa di paragonabile a una linea editoriale.
Non perché qualcuno scriva anticipatamente ciò che dovrà dire.
Abbiamo già visto che non funziona così.
Ma perché persone e organizzazioni contribuiscono a stabilire entro quali criteri il suo comportamento venga considerato migliore o peggiore, desiderabile o indesiderabile, accettabile o inaccettabile.
C’è però una differenza importante.
Quando leggiamo un quotidiano sappiamo che esiste una testata. Possiamo conoscerne l’orientamento, il direttore, la proprietà.
Quando una macchina risponde:
“La risposta è…”
la mediazione può diventare quasi invisibile.
Sembra che la risposta emerga semplicemente dai dati e dal calcolo.
Non è così.
Dietro quella risposta ci sono il modello e i dati con cui è stato costruito, ma anche molte scelte umane: quali comportamenti favorire, quali limitare, quali rischi considerare accettabili, quali criteri utilizzare per valutare la qualità delle risposte.
Possiamo quindi rispondere alla domanda iniziale: sì, un sistema di IA ha qualcosa di paragonabile alla linea editoriale di un giornale, ma l’analogia non è completa.
Un giornale sceglie intenzionalmente una rappresentazione della realtà attraverso decisioni editoriali riconoscibili. Un sistema di IA genera invece ogni risposta attraverso un processo che non è stato scritto anticipatamente. Tuttavia quel processo si svolge all’interno di criteri, vincoli e scelte che contribuiscono a orientarne il comportamento.
La differenza più importante potrebbe essere proprio nella loro visibilità.
Nel giornale la mediazione è evidente: sappiamo che qualcuno ha selezionato e organizzato ciò che leggiamo. Nell’IA la mediazione umana rischia di scomparire dietro l’apparente neutralità della risposta.
Per questo una risposta prodotta da un’IA non dovrebbe essere considerata semplicemente come “ciò che dicono i dati”. È anche il risultato di un sistema costruito attraverso scelte tecniche, organizzative e valoriali.
Se non esiste neutralità, significa che ogni IA ha un’ideologia?
No.
Sarebbe il passaggio opposto e altrettanto improprio.
Un sistema non deve necessariamente possedere convinzioni politiche perché il suo comportamento rifletta scelte valoriali.
È utile distinguere almeno quattro livelli.
I dati non sono neutrali. Provengono da società, culture ed epoche determinate e ne contengono rappresentazioni, squilibri, omissioni e conflitti.
La progettazione non è neutrale. Qualcuno sceglie obiettivi, metriche, architetture e criteri.
L’allineamento del comportamento non è neutrale. Qualcuno stabilisce quali risposte o azioni siano considerate preferibili.
L’impiego non è neutrale. Qualcuno decide dove utilizzare il sistema, con quali poteri e con quali conseguenze.
Possiamo quindi formulare il problema in maniera più rigorosa:
Un sistema di IA non è non-neutrale perché possieda necessariamente una propria ideologia, ma perché è costruito, addestrato, valutato e utilizzato all’interno di sistemi umani nei quali vengono continuamente compiute scelte, alcune delle quali incorporano inevitabilmente valori.
Gli orientamenti valoriali possono essere più o meno espliciti, trasparenti e pluralistici.
Ma non scompaiono perché a eseguire materialmente un’operazione è una macchina.
Che cosa accade quando i valori entrano in conflitto?
La questione diventa evidente quando due valori entrambi desiderabili conducono a comportamenti differenti.
Libertà di espressione e protezione dal danno.
Privacy e sicurezza.
Personalizzazione e riservatezza.
Accuratezza e prudenza.
Autonomia dell’utente e prevenzione di comportamenti pericolosi.
Non possiamo massimizzarli sempre contemporaneamente.
Costruire un sistema significa quindi anche stabilire, esplicitamente o implicitamente, come gestire alcuni conflitti fra valori.
Non abbiamo da una parte un’IA “valoriale” e dall’altra un’IA “neutrale”.
Abbiamo differenti modi di stabilire priorità fra valori.
Il problema non è che esistano scelte. Il problema comincia quando le scelte vengono presentate come se non esistessero.
Chi decide che cosa un’IA può fare?
La domanda sui valori conduce inevitabilmente a una questione di potere.
Chi costruisce un sistema può stabilire che alcuni usi siano consentiti e altri vietati.
Chi lo utilizza può voler impiegare la tecnologia per finalità che il produttore considera inaccettabili.
Gli Stati possono imporre regole alle imprese.
Le imprese possono rifiutarsi di rendere disponibili determinate capacità.
Il problema non riguarda più soltanto come funziona l’IA.
Riguarda la sua governance.
Il recente conflitto fra Anthropic e l’amministrazione statunitense sui limiti che l’azienda voleva mantenere rispetto ad alcuni impieghi militari e di sorveglianza rende particolarmente evidente questa tensione.
Indipendentemente dal giudizio sul caso specifico, la domanda che emerge è generale:
Chi ha il potere legittimo di stabilire che cosa non debba essere fatto con una tecnologia?
Affidare interamente questa decisione alle aziende private è problematico.
Affidarla interamente al potere politico non elimina necessariamente il problema.
Qualcuno, da qualche parte, sta comunque scegliendo.
Se deleghiamo qualcosa all’IA, che cosa accade alle nostre capacità?
Finora abbiamo considerato soprattutto ciò che un sistema può fare alle persone.
Esiste però un’altra direzione:
che cosa accade alle persone attraverso l’uso che esse stesse fanno dell’IA?
La delega può riguardare attività cognitive che prima svolgevamo direttamente.
Qui diventa utile la distinzione fra scaffolding e protesi cognitiva.
Un sistema può funzionare come scaffolding quando sostiene temporaneamente una prestazione che la persona progressivamente impara a svolgere con maggiore autonomia.
Può invece diventare una protesi cognitiva quando una funzione viene stabilmente trasferita alla macchina.
Il problema non consiste nel sostenere che ogni delega sia negativa. Gli esseri umani hanno sempre esternalizzato funzioni cognitive attraverso strumenti.
La domanda è:
Quali capacità possiamo permetterci di non esercitare più e quali dobbiamo conservare per poter comprendere, giudicare e governare ciò che deleghiamo?
È una questione sviluppata più estesamente nell’articolo Scaffolding o protesi cognitiva.
Qui interessa soprattutto una conseguenza: il rischio dell’IA non dipende soltanto da ciò che la macchina sbaglia. Può dipendere anche da ciò che noi smettiamo progressivamente di fare.
Più deleghiamo, più abbiamo bisogno di saper controllare ciò che deleghiamo?
Qui compare un paradosso.
Più un sistema diventa efficace, più siamo incentivati a delegargli attività.
Ma per valutare ciò che produce dobbiamo conservare una competenza sufficiente a comprenderlo, interrogarlo, verificarlo e, quando necessario, rifiutarlo.
La delega può però ridurre proprio l’esercizio attraverso il quale quella competenza viene mantenuta.
Potremmo quindi trovarci nella situazione nella quale:
più abbiamo bisogno di controllare la macchina, meno siamo capaci di farlo.
Non esiste una soluzione generale.
La domanda deve essere posta caso per caso:
Che cosa stiamo delegando, perché lo stiamo delegando e che cosa dobbiamo continuare a saper fare per governare quella delega?
L’intelligenza artificiale è davvero immateriale?
La nostra esperienza dell’IA è spesso quasi priva di materia.
Scriviamo una frase su uno schermo. Dopo pochi secondi compare una risposta.
Dietro questo gesto apparentemente leggerissimo esistono però data center, reti, processori, sistemi di raffreddamento, consumo di energia e acqua, materie prime, produzione e sostituzione di hardware.
L’IA è software, modelli matematici e dati, ma esiste attraverso una gigantesca infrastruttura materiale.
Questo non conduce automaticamente a una valutazione negativa.
Ogni tecnologia ha costi materiali e deve essere confrontata con le attività che sostituisce o rende possibili.
Ma è importante non confondere l’invisibilità dell’infrastruttura con la sua inesistenza.
Quanto lavoro umano è nascosto dietro l’automazione?
Lo stesso vale per il lavoro.
Dietro sistemi apparentemente automatici può esistere una grande quantità di lavoro umano poco visibile: preparazione dei dati, annotazione, classificazione, valutazione degli output, moderazione, controllo della qualità, manutenzione delle infrastrutture.
L’automazione non elimina necessariamente il lavoro umano.
Talvolta lo sostituisce.
Talvolta lo trasforma.
Talvolta semplicemente lo sposta in un luogo nel quale l’utente non lo vede più.
Anche questo contribuisce a comprendere l’IA come artefatto sociotecnico e non come entità autonoma comparsa improvvisamente nei nostri dispositivi.
Definirla artefatto sociotecnico significa riconoscere che un sistema di IA non è soltanto un prodotto tecnologico fatto di algoritmi, dati, software e infrastrutture di calcolo. È anche il risultato dell’attività di persone e organizzazioni che decidono quali problemi affrontare, quali dati utilizzare, quali prestazioni privilegiare, quali comportamenti favorire o limitare e quali rischi considerare accettabili.
La componente tecnica e quella sociale non sono quindi separabili: le scelte umane entrano nella costruzione della tecnologia e la tecnologia, una volta utilizzata, modifica a sua volta pratiche, comportamenti e relazioni sociali.
Parlare di artefatto sociotecnico serve proprio a evitare l’immagine dell’IA come qualcosa che “agisce da sola”. Dietro il suo funzionamento, anche quando produce autonomamente risultati non scritti in anticipo da nessuno, rimane una storia di progettazione, decisioni, lavoro umano e scelte valoriali.
Chi possiede l’infrastruttura dell’intelligenza artificiale?
Costruire sistemi avanzati richiede enormi quantità di dati, capacità di calcolo, chip specializzati, infrastrutture e capitale.
Queste risorse non sono distribuite uniformemente.
Non esiste un unico soggetto che “possiede l’IA”. Esiste piuttosto una filiera nella quale alcune risorse decisive sono fortemente concentrate.
La produzione dei chip più avanzati dipende da un numero ristretto di imprese; grandi operatori tecnologici controllano una parte rilevante dei data center e della capacità di calcolo necessaria per addestrare e utilizzare i modelli; poche organizzazioni dispongono delle risorse economiche e tecniche necessarie per sviluppare i sistemi di frontiera e renderli disponibili su scala globale.
Il potere, inoltre, non deriva soltanto dal possesso materiale dei computer. Riguarda il controllo dei modelli, delle piattaforme attraverso cui vengono distribuiti, dei dati, delle condizioni di accesso e delle risorse necessarie per costruire alternative.
Nasce così una questione che non riguarda più soltanto la tecnologia, ma il potere.
Chi controlla queste infrastrutture può incidere su quali sistemi siano disponibili, a quali condizioni, con quali funzionalità e a quale prezzo. Può modificare unilateralmente un servizio dal quale persone e organizzazioni hanno cominciato a dipendere.
Il problema diventa tanto più rilevante quanto più l’IA viene incorporata nella comunicazione, nella conoscenza, nel lavoro e nei processi decisionali.
Quanto più deleghiamo funzioni importanti a un’infrastruttura, tanto più diventa rilevante sapere chi controlla quell’infrastruttura e quali alternative abbiamo se cambiano le condizioni del suo utilizzo.
La concentrazione dell’IA non è quindi soltanto una questione economica o industriale. Diventa una questione sociale e politica quando alla concentrazione delle risorse tecnologiche corrisponde una crescente dipendenza da quelle risorse.
La concentrazione riguarda l’intera filiera: NVIDIA e AMD nella progettazione degli acceleratori; TSMC e Samsung nella loro produzione; ASML e poche altre aziende nelle apparecchiature necessarie a fabbricarli; SK hynix, Samsung e Micron nelle memorie avanzate; Amazon, Microsoft e Google nella capacità cloud; OpenAI, Google DeepMind, Anthropic, Meta e xAI nello sviluppo di alcuni dei modelli più avanzati. Gli stessi grandi gruppi sono inoltre presenti contemporaneamente in più punti della filiera. Riferimento valido ad agosto 2026.
Che cosa succede quando l’IA apprende in un ambiente che essa stessa contribuisce a produrre?
I sistemi di IA sono stati addestrati in larga misura su una produzione culturale precedente: testi, immagini, codice, musica e altre tracce prodotte dagli esseri umani.
Ma una quantità crescente dei contenuti che circolano nell’ambiente informativo è oggi prodotta o modificata dalle stesse IA.
Si crea quindi potenzialmente un circuito:
produzione umana → addestramento dell’IA → produzione dell’IA → ambiente informativo → futuro addestramento
Le conseguenze tecniche dell’uso di dati sintetici sono oggetto di ricerca e non possono essere ridotte a una semplice previsione di deterioramento inevitabile.
Ma culturalmente accade qualcosa di nuovo.
L’IA non si limita più ad apprendere dalla cultura umana. Comincia a contribuire alla costruzione dell’ambiente culturale dal quale esseri umani e future IA apprenderanno.
Anche qui non sappiamo ancora quali saranno tutte le conseguenze.
Siamo dentro il processo che stiamo cercando di comprendere.
Il problema è che l’IA sta cambiando o che stiamo cambiando noi?
Gran parte della discussione pubblica sull’intelligenza artificiale guarda alla macchina.
Quanto diventerà potente?
Che cosa saprà fare fra cinque anni?
Quali professioni sostituirà?
Sono domande comprensibili.
Ma guardano soltanto metà del fenomeno.
L’altra metà riguarda noi.
Che cosa accade alle nostre aspettative quando possiamo ottenere una risposta quasi immediatamente?
Che cosa accade al nostro rapporto con la conoscenza quando possiamo interrogare una macchina su quasi qualunque argomento?
Che cosa accade alla nostra disponibilità ad affrontare la fatica necessaria per acquisire una competenza?
Come cambia il modo in cui attribuiamo autorevolezza?
Come cambia la creatività quando una macchina può produrre in pochi secondi molte alternative?
Come cambia la nostra percezione di ciò che significa aver fatto qualcosa?
Come cambiano le relazioni quando una parte delle interazioni linguistiche avviene con interlocutori artificiali?
Non sappiamo ancora rispondere.
E forse è importante riconoscere che non sappiamo.
Non sappiamo ancora dove stiamo andando
Sarebbe facile concludere questo percorso con una tesi.
L’intelligenza artificiale è una grande opportunità.
Oppure:
l’intelligenza artificiale è una minaccia.
O ancora:
l’intelligenza artificiale deve essere controllata.
Sono conclusioni troppo semplici per un fenomeno che stiamo ancora imparando a comprendere.
Non tutte le IA sono uguali.
Non tutti gli usi producono gli stessi effetti.
Non tutte le deleghe impoveriscono le persone.
Non tutta l’automazione elimina autonomia.
Non ogni orientamento valoriale è manipolazione.
Non ogni rischio è una ragione per rinunciare a una tecnologia.
E non ogni possibilità tecnica costituisce una buona ragione per utilizzarla.
Possiamo però conservare alcune domande:
Che cosa stiamo delegando?
Chi stabilisce i criteri?
Chi controlla il sistema?
Chi ha la capacità e il potere di dissentire?
Chi risponde delle conseguenze?
Quali valori sono incorporati nelle scelte?
Quali capacità vogliamo continuare a possedere?
Quale autonomia siamo disposti a cedere?
Non sono domande alle quali l’intelligenza artificiale possa rispondere al nostro posto.
Perché non riguardano soltanto ciò che una tecnologia può fare.
Riguardano ciò che noi consideriamo opportuno che faccia.
Siamo in un terreno in parte sconosciuto.
Possiamo conoscerne sempre meglio la tecnologia, misurarne le prestazioni, studiarne i rischi e costruire regole. Ma non sappiamo ancora che cosa significherà vivere a lungo in un ambiente nel quale sistemi artificiali saranno permanentemente presenti nelle nostre attività cognitive, nelle decisioni e nella produzione culturale.
Per questo forse non abbiamo bisogno, almeno per ora, di una conclusione.
Abbiamo bisogno di continuare a fare domande.
E di procedere guidati da dove siamo, non da dove abbiamo deciso in anticipo di voler arrivare.
La domanda che rimane aperta è allora doppia:
Che cosa faremo noi dell’intelligenza artificiale?
E che cosa l’uso dell’intelligenza artificiale farà di noi?
