Che cosa chiamiamo intelligenza artificiale?

In breve

Parliamo continuamente di “intelligenza artificiale” come se fosse una tecnologia unica e facilmente identificabile. In realtà, sotto questa etichetta convivono sistemi molto diversi per funzionamento, scopi e capacità: dai sistemi predittivi e di classificazione ai modelli generativi. Capire che cosa chiamiamo IA significa distinguere queste tecnologie, ma anche riconoscere che non esistono isolate: sono costruite per determinati scopi, incorporate in infrastrutture economiche e organizzative e controllate da soggetti che compiono scelte. Comprendere l’IA richiede quindi di guardare insieme alla tecnologia e al sistema umano nel quale opera.

Parliamo continuamente di intelligenza artificiale. Diciamo che l’IA scrive, riconosce immagini, fa diagnosi, traduce, guida automobili, crea fotografie, suggerisce film, prevede comportamenti.

La familiarità con l’espressione rischia però di nascondere una difficoltà elementare: che cosa stiamo chiamando intelligenza artificiale?

La domanda è meno semplice di quanto sembri.

Un sistema che conversa con noi utilizzando il linguaggio e un sistema che durante un’endoscopia segnala al medico una possibile lesione sembrano avere pochissimo in comune. Eppure entrambi appartengono a ciò che chiamiamo intelligenza artificiale.

Conviene allora partire da una rappresentazione semplice, sapendo fin dall’inizio che dovremo complicarla.

Prima di tutto: che cosa possiamo chiamare intelligenza artificiale?

Come prima approssimazione possiamo dire:

L’intelligenza artificiale è una famiglia di tecnologie che permette a una macchina di riconoscere qualcosa, fare previsioni, scegliere, generare contenuti o adattare la propria risposta a una situazione, senza che ogni singola risposta sia stata stabilita in anticipo da chi l’ha programmata.

È una definizione intenzionalmente intuitiva e incompleta. Serve soprattutto per costruire una prima rappresentazione.

Ci permette già di riconoscere come appartenenti alla stessa grande famiglia sistemi apparentemente molto differenti: quello che identifica un volto, quello che segnala una possibile lesione in un’immagine medica, quello che stima un rischio, quello che raccomanda una canzone, quello che genera un’immagine e quello con cui possiamo sostenere una conversazione.

C’è soprattutto una parte della definizione sulla quale vale la pena fermarsi:

senza che ogni singola risposta sia stata stabilita in anticipo.

Non significa che la macchina sia indipendente da chi l’ha costruita. Vedremo che è vero esattamente il contrario.

Significa qualcosa di più circoscritto: chi costruisce il sistema non deve necessariamente stabilire in anticipo quale risposta esso dovrà produrre davanti a ciascuna delle possibili situazioni che incontrerà.

È una prima differenza importante rispetto all’immagine tradizionale del computer come macchina che esegue semplicemente una sequenza di istruzioni predisposte dal programmatore.

Ma questa prima definizione non basta.

Possiamo definire l’IA senza dire che “pensa come noi”?

Una definizione più precisa potrebbe essere questa:

Un sistema di intelligenza artificiale è un sistema artificiale che elabora dati o segnali attraverso modelli capaci di individuare e utilizzare relazioni e regolarità per produrre inferenze, classificazioni, previsioni, decisioni, contenuti o azioni, senza che ciascun risultato possibile sia stato esplicitamente specificato in anticipo.

Le parole quotidiane utilizzate nella prima definizione acquistano qui un significato più preciso.

“Riconoscere” può significare classificare o inferire.

“Prevedere” significa stimare un risultato sulla base di regolarità.

“Scegliere” può significare produrre una decisione secondo determinati criteri.

“Generare” significa produrre un nuovo output sulla base del modello.

“Adattare la risposta” significa che ciò che il sistema produce dipende dai dati, dai segnali e dal contesto che riceve.

Questa definizione cerca deliberatamente di evitare un’affermazione: che la macchina faccia queste cose attraverso gli stessi processi attraverso i quali le fa una persona.

Un sistema può produrre una classificazione corretta senza “riconoscere” nel senso psicologico nel quale riconosciamo una persona incontrata per strada. Può produrre una frase appropriata senza che da questo possiamo automaticamente concludere che comprenda quella frase come la comprendiamo noi.

Due prestazioni possono apparire molto simili senza essere state prodotte nello stesso modo. Il fatto che una persona e un sistema di IA arrivino allo stesso risultato non significa che abbiano seguito gli stessi processi per arrivarci.

Questa distinzione ci accompagnerà fino alla fine.

L’intelligenza artificiale è una tecnologia?

No, se con questa espressione immaginiamo una tecnologia unica che funziona sempre secondo lo stesso principio.

Intelligenza artificiale è un termine-ombrello.

Indica un vasto campo nel quale convivono differenti paradigmi, modelli matematici, tecniche di apprendimento, architetture software, infrastrutture hardware e modalità di interazione con l’ambiente.

Questo è importante perché la straordinaria visibilità raggiunta negli ultimi anni dall’IA generativa può facilmente produrre una serie di equivalenze:

IA = IA generativa = modelli linguistici = ChatGPT.

Non è così.

Un sistema che individua una possibile lesione durante un’endoscopia può essere intelligenza artificiale senza produrre testi, conversare con qualcuno o generare alcunché.

ChatGPT, Claude, Copilot, Gemini sono particolari applicazioni costruite intorno a modelli appartenenti a una specifica famiglia dell’IA contemporanea. Non sono “l’intelligenza artificiale”.

Quali tecnologie stanno sotto l’ombrello dell’IA?

Una classificazione perfettamente ordinata è difficile, perché le categorie si sovrappongono e soprattutto non stanno tutte allo stesso livello.

Possiamo però individuare alcune grandi famiglie e approcci.

I sistemi simbolici rappresentano esplicitamente conoscenze, simboli, relazioni e regole e possono utilizzarli per produrre inferenze. Hanno avuto un ruolo fondamentale nella storia dell’intelligenza artificiale e continuano ad avere applicazioni.

Il machine learning permette invece di costruire sistemi che apprendono regolarità a partire dai dati anziché ricevere esclusivamente regole esplicitamente formulate dal programmatore.

Le reti neurali artificiali e il deep learning costituiscono una grande famiglia di tecniche di machine learning particolarmente efficace nell’elaborazione di strutture complesse presenti in immagini, suoni, linguaggio e grandi quantità di dati.

La computer vision riguarda sistemi capaci di elaborare immagini e video per identificare oggetti, configurazioni, anomalie e altre caratteristiche rilevanti.

I sistemi dedicati a voce e audio possono riconoscere il parlato, identificare caratteristiche sonore, trasformare voce in testo o produrre artificialmente voce e altri segnali audio.

Il Natural Language Processing comprende tecnologie per l’elaborazione del linguaggio. All’interno di questa vasta area si collocano oggi anche i grandi modelli linguistici.

L’IA generativa identifica sistemi capaci di generare nuovi contenuti: testo, immagini, audio, video, codice e altre forme di rappresentazione.

Il reinforcement learning riguarda sistemi che apprendono strategie attraverso l’interazione fra azioni, conseguenze e segnali di ricompensa.

La robotica e i sistemi autonomi combinano percezione, elaborazione e azione in un ambiente fisico.

I sistemi di raccomandazione utilizzano dati e regolarità per ordinare o selezionare ciò che potrebbe essere rilevante per un determinato utente o contesto.

I sistemi multimodali, infine, possono elaborare e mettere in relazione modalità differenti: testo, immagini, suono, video e altre forme di dati.

Questa enumerazione è inevitabilmente incompleta e non costituisce una tassonomia rigorosa.

“Deep learning”, per esempio, identifica soprattutto un approccio tecnologico; “computer vision” un campo di capacità; “IA generativa” un tipo di risultato; “reinforcement learning” una modalità di apprendimento; “robotica” un campo nel quale l’elaborazione può tradursi in azione fisica.

Le categorie inoltre si combinano.

Un sistema di computer vision può utilizzare deep learning. Un robot può utilizzare computer vision e reinforcement learning. Un sistema multimodale può utilizzare reti neurali e integrare linguaggio, immagini e audio.

La conseguenza è importante:

Non esiste un unico “come funziona l’intelligenza artificiale”.

Esistono sistemi differenti accomunati da alcune proprietà generali.

Che cosa hanno in comune un’endoscopia assistita dall’IA e un modello linguistico?

Il confronto è utile proprio perché i due sistemi sembrano molto lontani.

Durante un’endoscopia una telecamera produce immagini. Un sistema di computer vision può elaborarle attraverso un modello addestrato a individuare determinate configurazioni e segnalare all’endoscopista un’area compatibile con una possibile lesione.

Molto schematicamente:

immagine → elaborazione → individuazione di regolarità rilevanti → classificazione o rilevazione → segnalazione

Un modello linguistico opera su dati differenti e con un’architettura differente:

testo → rappresentazione numerica → elaborazione delle relazioni apprese → stima probabilistica → generazione di testo

I due sistemi fanno cose molto diverse.

Eppure ritroviamo una struttura generale:

input → rappresentazione/elaborazione → modello → output

Il risultato specifico non è stato scritto anticipatamente da un programmatore per ciascun possibile input.

Nel primo caso nessuno ha programmato: “quando comparirà esattamente questa immagine endoscopica, segnala proprio questi pixel”.

Nel secondo nessuno ha scritto anticipatamente la risposta che comparirà a una particolare domanda formulata in un particolare momento.

Il comportamento emerge dall’applicazione di un modello costruito e addestrato per quel tipo di compito.

Se nessuno programma le singole risposte, come impara la macchina?

Qui bisogna distinguere la programmazione del sistema dalla determinazione anticipata dei suoi singoli risultati.

Nel machine learning vengono utilizzati dati e procedure attraverso le quali vengono modificati i parametri del modello affinché esso diventi progressivamente più efficace rispetto a determinati obiettivi.

Semplificando molto:

dati → addestramento → modello → nuovi dati → risultato

L’apprendimento automatico consiste quindi nella modificazione del modello sulla base di dati ed errori, obiettivi o altri segnali definiti dal metodo utilizzato.

Questo permette al sistema di affrontare casi che non gli erano stati presentati esattamente nella stessa forma durante l’addestramento.

Ma occorre subito evitare un equivoco.

Il fatto che una risposta non sia stata programmata in anticipo non significa che la macchina si sia costruita da sola.

Dietro quel comportamento c’è una quantità enorme di intervento umano.

Chi costruisce realmente un sistema di intelligenza artificiale?

L’immagine del programmatore che “costruisce l’IA” è insufficiente quanto quella della macchina che semplicemente esegue istruzioni.

Alla realizzazione di sistemi complessi possono contribuire ricercatori di machine learning e deep learning, machine learning engineer, software engineer, data scientist, data engineer, specialisti di sistemi distribuiti, infrastrutture e hardware.

A questi si aggiungono linguisti e specialisti del linguaggio, esperti disciplinari, professionisti della sicurezza informatica e del red teaming, ricercatori di AI safety, specialisti di human-computer interaction, UX e product design.

Intervengono inoltre esperti di diritto, privacy e policy, figure responsabili delle decisioni organizzative e di prodotto e numerose persone impegnate nella classificazione, annotazione e valutazione dei dati e dei risultati prodotti dai modelli.

Un sistema avanzato di IA è quindi il risultato non soltanto di algoritmi e potenza di calcolo, ma di un’estesa organizzazione del lavoro umano.

In che modo le persone contribuiscono a determinare il comportamento dell’IA?

L’intervento umano non riguarda soltanto la costruzione dell’infrastruttura.

Entra anche nell’orientamento del comportamento del modello.

Dopo il pre-addestramento di grandi modelli possono intervenire diverse forme di post-training. Una tecnica diventata particolarmente nota è il Reinforcement Learning from Human Feedback (RLHF).

In una delle sue forme, a valutatori umani possono essere presentate differenti risposte prodotte dal modello allo stesso input.

Il valutatore può stabilire che una risposta sia preferibile a un’altra secondo determinati criteri.

Possiamo rappresentare schematicamente il processo:

domanda → risposte possibili → valutazione umana → segnale per l’addestramento

Il valutatore non sta necessariamente dicendo:

“Se qualcuno farà questa domanda, dovrai dare questa risposta.”

Sta contribuendo piuttosto a stabilire:

“Fra questi modi di rispondere, questo è preferibile a quello.”

Ripetute su grandi quantità di esempi, valutazioni di questo genere contribuiscono a modificare il comportamento generale del modello.

Oggi vengono utilizzate anche procedure nelle quali parte della valutazione viene svolta da altri modelli, da verificatori automatici o attraverso differenti tecniche di reinforcement learning.

Ma rimane un punto fondamentale:

non programmare anticipatamente ogni singola risposta non significa rinunciare a orientare il comportamento del sistema.

Gli esseri umani decidono obiettivi, selezionano e filtrano dati, progettano procedure, stabiliscono criteri di valutazione, determinano comportamenti desiderabili e indesiderabili e definiscono le condizioni nelle quali il sistema viene messo a disposizione.

L’autonomia apparente dell’output non equivale quindi a indipendenza dall’intervento umano.

Un’IA continua a imparare mentre la utilizziamo?

Anche qui il linguaggio quotidiano può trarci in inganno.

Durante una conversazione un modello linguistico può adattare le risposte a ciò che è stato detto precedentemente. Può utilizzare informazioni fornite qualche minuto prima, correggere una precedente interpretazione, mantenere una determinata impostazione del discorso.

Sembra quindi che stia imparando.

Ma dobbiamo distinguere almeno tre fenomeni.

L’apprendimento durante l’addestramento modifica i parametri del modello attraverso procedure appositamente predisposte.

L’adattamento durante l’interazione utilizza invece le informazioni disponibili nel contesto per produrre le risposte successive. Qui un esempio di quella che avevo definito “architettura locale del dialogo“

L’aggiornamento del sistema può infine modificare stabilmente il modello o altre sue componenti attraverso ulteriori procedure predisposte da chi lo gestisce.

Non sono la stessa cosa.

Un sistema può modificare il proprio comportamento in funzione dell’esperienza corrente senza modificare autonomamente, attraverso quell’esperienza, il meccanismo fondamentale attraverso il quale produce quel comportamento.

Per questo:

risultato non predeterminato, adattamento al contesto e apprendimento autonomo continuo sono proprietà differenti.

Un sistema di IA può “imparare a imparare”?

Esistono tecniche di meta-learning, sistemi capaci di apprendimento online e agenti che possono modificare strategie sulla base dei risultati ottenuti.

Non possiamo quindi affermare genericamente che un sistema di IA non possa modificare le proprie strategie di apprendimento.

Ma anche qui è necessario distinguere.

Un sistema può essere progettato per apprendere come affrontare meglio nuovi compiti senza per questo diventare un soggetto che autonomamente decide che cosa vuole imparare, perché vuole impararlo e quale trasformazione vuole produrre su se stesso.

Cominciamo così a vedere che sotto la parola “autonomia” nascondiamo fenomeni differenti:

autonomia nella produzione della risposta;

autonomia nell’apprendimento;

autonomia nella determinazione degli scopi.

È una distinzione sulla quale dovremo tornare, perché ci conduce oltre la descrizione tecnica dell’IA e verso domande molto più difficili.

Se produce una prestazione intelligente, significa che è intelligente?

Siamo arrivati al punto dal quale, paradossalmente, eravamo partiti.

Chiamiamo questi sistemi “intelligenza artificiale”. Ma fino a questo momento abbiamo potuto descriverli senza stabilire se siano intelligenti nello stesso senso in cui diciamo intelligente una persona.

È utile distinguere almeno tre concetti:

prestazione, competenza, comprensione.

Un sistema può produrre una prestazione estremamente efficace.

Può classificare correttamente un’immagine, tradurre un testo, individuare una configurazione anomala, risolvere un problema o sostenere una conversazione complessa.

Possiamo anche dire, in senso operativo, che è competente in quel compito.

Ma non ne consegue automaticamente che possieda comprensione nel senso umano del termine.

Torniamo all’endoscopia.

Il medico e il sistema artificiale possono indicare la stessa area come possibile lesione.

Il risultato può essere funzionalmente analogo.

Ma il medico porta in quella valutazione conoscenze anatomiche e patologiche, esperienza professionale, memoria di casi precedenti, informazioni sul paziente, capacità di interpretare il contesto e una storia personale di formazione ed esperienza.

Il sistema artificiale può arrivare alla stessa segnalazione attraverso processi completamente differenti.

Possiamo quindi avere:

stesso input → processi profondamente differenti → risultato apparentemente equivalente

Questo impedisce due conclusioni opposte e ugualmente affrettate.

La prima:

“Produce risultati intelligenti, dunque pensa come noi.”

La seconda:

“Non pensa come noi, dunque ciò che fa non ha nulla a che vedere con l’intelligenza.”

Forse entrambe pretendono di risolvere troppo rapidamente un problema che rimane aperto.

Forse l’IA ci costringe a precisare che cosa intendiamo per intelligenza

Siamo partiti da una domanda apparentemente tecnica:

che cosa chiamiamo intelligenza artificiale?

Abbiamo scoperto che non si tratta di una singola tecnologia ma di un campo molto eterogeneo.

Abbiamo visto che i sistemi possono apprendere regolarità dai dati e produrre risultati che nessun programmatore ha determinato singolarmente in anticipo.

Abbiamo però anche visto quanto lavoro, quante decisioni e quante valutazioni umane siano necessarie per costruirli e orientarne il comportamento.

Abbiamo distinto addestramento, adattamento e apprendimento autonomo.

E siamo infine arrivati a una distinzione che non è più soltanto tecnologica: una prestazione può essere simile a quella umana senza che siano necessariamente simili i processi che l’hanno prodotta.

A questo punto la domanda iniziale cambia forma.

Non soltanto:

Che cos’è l’intelligenza artificiale?

Ma anche:

Che cosa intendiamo per intelligenza quando prestazioni che abbiamo a lungo considerato manifestazioni dell’intelligenza possono essere prodotte attraverso processi radicalmente differenti da quelli umani?

Non abbiamo bisogno di rispondere subito.

Anzi, forse il primo risultato utile consiste proprio nell’avere separato alcune cose che il linguaggio tende continuamente a confondere:

prestazione e comprensione;

risposta autonoma e apprendimento autonomo;

apprendimento e determinazione degli scopi;

comportamento della macchina e decisioni delle persone che hanno contribuito a costruirla.

Fin qui abbiamo cercato soprattutto di capire che cosa abbiamo davanti quando parliamo di intelligenza artificiale.

Ma non appena sistemi di questo genere entrano nelle nostre attività, producono informazioni, suggeriscono decisioni, orientano comportamenti e assumono funzioni che prima appartenevano alle persone, si apre un secondo insieme di domande.

Quanto possiamo fidarci dei loro risultati?

Quanto comprendiamo il modo in cui vengono prodotti?

Quali decisioni possiamo delegare?

Chi risponde delle conseguenze?

Un sistema artificiale può essere neutrale?

Che cosa significa attribuirgli autonomia?

Avere uno scopo significa avere intenzionalità?

E, soprattutto, che cosa succede a noi quando una parte crescente delle nostre attività viene svolta insieme a sistemi di questo tipo?

Queste non sono più soltanto domande su che cos’è l’intelligenza artificiale.

Sono domande su che cosa significa convivere con essa.