Conoscere il funzionamento reale dell’IA

La tematica

Le IA generative producono testi, immagini e risposte che possono apparire attendibili, personali o frutto di una comprensione della situazione. Per interpretare ciò che restituiscono, tuttavia, non basta osservare la qualità del risultato: occorre interrogarsi sui processi con cui viene generato, sui dati e sulle istruzioni da cui dipende e sui limiti del sistema.

Il funzionamento reale dell’IA emerge in modo particolarmente evidente quando un contenuto falso risulta convincente, una risposta formulata con sicurezza è sbagliata, un testo generato viene scambiato per un lavoro umano o un sistema reagisce a istruzioni che il lettore non vede. Anche le controversie sull’uso delle opere altrui per addestrare i modelli richiamano l’attenzione su ciò che precede il risultato visibile.

Come si manifesta nei Casi e nei punti di vista

Caso: Quando non possiamo più credere alle nostre orecchie: il deepfake delle elezioni slovacche

Alla vigilia delle elezioni slovacche circola un audio che sembra registrare una conversazione reale, ma è un deepfake. Il Caso mostra quanto la credibilità di una voce possa essere separata dalla sua autenticità: riconoscere una voce e ascoltare parole plausibili non basta più a stabilire che quella conversazione sia avvenuta. Per la scuola si apre una questione di conoscenza: come distinguere ciò che un contenuto fa apparire vero dalle prove della sua origine?

Caso: Quando è lo studente a dover dimostrare di non aver usato l’IA: il caso di Sophie

Qui non è un testo generato a essere scambiato per umano: è un testo umano a essere sospettato di provenire dall’IA. Il Caso mette in evidenza il limite dei sistemi che pretendono di riconoscere l’origine di un elaborato sulla base delle sue caratteristiche linguistiche. Una classificazione probabilistica rischia di trasformarsi in un’accusa, soprattutto quando chi la riceve non conosce l’affidabilità dello strumento e non può verificarne il giudizio.

Caso: Si può imparare dalle opere degli altri? Il New York Times contro OpenAI e Microsoft

La controversia sposta lo sguardo dalla risposta che compare sullo schermo a ciò che ha reso possibile produrla. Per comprendere un sistema generativo occorre considerare anche l’addestramento, l’impiego di opere preesistenti e la possibilità che il modello riproduca contenuti riconoscibili. La questione non si esaurisce nel fatto che il risultato sia nuovo o convincente: riguarda il rapporto fra ciò che il sistema genera e ciò da cui ha appreso regolarità.

Caso: Si può addestrare un’IA con le opere degli altri? Il caso Getty Images contro Stability AI

Nel caso delle immagini generate, l’origine del risultato è ancora meno evidente a chi guarda. La controversia su Getty Images e Stability AI rende visibile una parte normalmente nascosta del funzionamento dei modelli: la raccolta e l’utilizzo delle immagini per l’addestramento. Il Caso aiuta a distinguere il prodotto finale dal processo che lo rende possibile e a interrogarsi su quali informazioni manchino quando giudichiamo soltanto ciò che vediamo.

Caso: Quando il chatbot diventa una relazione: il caso Character.AI

Un chatbot capace di rispondere in modo personale, continuo e coinvolgente può essere vissuto come un interlocutore che comprende e ricambia. Il Caso mostra uno scarto fra l’esperienza soggettiva della conversazione e il funzionamento del sistema che la sostiene. Conoscere l’IA significa anche riconoscere che la capacità di produrre parole appropriate a una relazione non dimostra, da sola, l’esistenza di comprensione, intenzioni o reciprocità.

Caso: Quando sbaglia il chatbot, chi risponde? Il caso Air Canada

Un assistente conversazionale fornisce a un cliente un’informazione errata, espressa però nella forma sicura e ordinata di una risposta di servizio. Il Caso rende concreta la differenza fra produrre una frase plausibile e fornire un’informazione verificata. Il problema non è soltanto che il chatbot possa sbagliare: è che il suo modo di parlare può nascondere all’utente quanto sia incerta la risposta e chi debba risponderne.

Caso: Quando il professore nasconde un’istruzione per l’IA: il caso del Madagascar

Un insegnante inserisce nel materiale di lavoro un’istruzione rivolta non allo studente, ma all’assistente IA che potrebbe leggere quel materiale. Il Caso mostra che un sistema può trattare come operative indicazioni contenute in un testo che avrebbe dovuto soltanto analizzare. Diventa così visibile una caratteristica del suo funzionamento: la risposta dipende anche da istruzioni e contesti che l’utilizzatore potrebbe non aver riconosciuto come tali.

Questa tematica non riguarda soltanto la conoscenza tecnica degli strumenti. Riguarda la possibilità di distinguere le prestazioni osservabili dalle capacità che attribuiamo loro, e di riconoscere quando l’apparenza di affidabilità, autenticità o comprensione può indurre a conclusioni non giustificate.

Questioni e implicazioni per la scuola

Conoscere il funzionamento reale dell’IA è una questione da considerare nella progettazione didattica, nella conduzione delle attività, nella valutazione e nelle decisioni sull’adozione degli strumenti. Non basta sapere che l’IA può produrre un risultato: conta anche capire quali inferenze su quel risultato siano giustificate e quali no.

Nella progettazione didattica si pone il problema di quali conoscenze sul funzionamento dei sistemi siano necessarie agli studenti per utilizzarli, interpretarli e metterne in discussione le risposte. Che cosa devono sapere dei dati, dell’addestramento, delle istruzioni e della generazione dei contenuti per non affidarsi soltanto all’apparenza del prodotto?

Durante le attività diventa rilevante osservare come studenti e insegnanti attribuiscano affidabilità a una risposta, autenticità a un’immagine o comprensione a un interlocutore artificiale. Quali occasioni consentono di rendere visibili i limiti di queste attribuzioni?

Nella valutazione occorre interrogarsi sull’uso di sistemi che classificano testi, formulano giudizi o producono indizi sull’origine di un elaborato. Che cosa può essere considerato un elemento utile e che cosa, invece, non costituisce una prova sufficiente?

Nelle decisioni organizzative la conoscenza dei limiti e delle condizioni di funzionamento diventa rilevante quando la scuola sceglie strumenti, definisce responsabilità e stabilisce come gestire errori, contenuti falsi o usi inattesi.

I Casi non indicano una soglia unica di conoscenze tecniche necessarie a tutti. Mostrano però che decidere sull’IA senza interrogarsi su come funziona può significare decidere sulla base di ciò che sembra fare.

Per approfondire

Perché per capire le IA dobbiamo studiarle come un fenomeno naturale

Una riflessione su come osservare il comportamento dei sistemi senza presumere di conoscerne già il funzionamento.

L’assistente IA esegue bene il compito sbagliato

Un caso di scarto fra l’esecuzione apparentemente corretta e l’effettiva interpretazione del compito.