Tutela delle persone

La tematica

Le tecnologie di IA possono incidere sulle persone anche quando vengono introdotte per rendere un servizio più rapido, sicuro o efficiente. Nei Casi del CFH la questione della tutela emerge in forme differenti: dati biometrici e sorveglianza, discriminazioni, false accuse, immagini manipolate, relazioni con chatbot e comunicazioni istituzionali.

Non tutti i rischi hanno la stessa natura. Talvolta il danno nasce da un uso deliberatamente aggressivo della tecnologia; altre volte dalle regole di un’organizzazione, dall’affidamento eccessivo a un risultato automatico o da protezioni insufficienti per chi si trova in una condizione di vulnerabilità.

La tematica interroga quindi chi viene esposto a quali conseguenze, chi può riconoscere e contestare un danno e quali responsabilità restano alle istituzioni. Non propone una contrapposizione astratta tra protezione e innovazione: invita a osservare come entrambe prendano forma nelle situazioni concrete.

Come si manifesta nei Casi e nei punti di vista

Caso: Quando non possiamo più credere alle nostre orecchie: il deepfake delle elezioni slovacche

Una registrazione audio manipolata circola durante una campagna elettorale e mette in discussione la possibilità di distinguere una voce autentica da una fabbricata. La tutela delle persone riguarda anche la reputazione e la possibilità di difendersi da contenuti falsi che si diffondono rapidamente.

Caso: Quando un algoritmo segnala una famiglia come sospetta: lo scandalo dei sussidi per l’infanzia nei Paesi Bassi

Nei Paesi Bassi il sistema di controllo dei sussidi per l’infanzia contribuisce a sottoporre famiglie a sospetti e conseguenze pesanti. Il Caso rende visibile quanto sia difficile proteggere una persona quando un procedimento automatizzato la classifica come rischio e rende onerosa la contestazione.

Caso: Quando è lo studente a dover dimostrare di non aver usato l’IA: il caso di Sophie

Una studentessa viene sospettata di aver usato l’IA per un elaborato e deve dimostrare di non averlo fatto. Qui la tutela riguarda la reputazione scolastica, il diritto di essere ascoltati e le conseguenze che possono derivare dall’attribuire a uno strumento di rilevazione un’autorità che non possiede.

Caso: Pagare il pranzo con il proprio volto: il caso della Chelmer Valley High School

Una scuola ricorre al riconoscimento facciale per consentire agli studenti di pagare il pranzo. Una procedura comoda solleva domande sul trattamento dei dati biometrici dei minori e sulla possibilità reale di scegliere un’alternativa senza subire svantaggi.

Caso: Quando la scuola legge tutto ciò che scrivi: il caso degli studenti giornalisti di Lawrence

Gli studenti giornalisti di Lawrence si confrontano con sistemi capaci di sorvegliare ciò che viene scritto sui dispositivi scolastici. Il Caso interroga il confine tra protezione, controllo e libertà di espressione: uno strumento presentato come misura di sicurezza può incidere anche sulla riservatezza e sull’autonomia degli studenti.

Caso: Quando il capo diventa un’app: il lavoro in un magazzino sudafricano

Nel magazzino sudafricano l’organizzazione del lavoro è mediata da un’app che impartisce indicazioni e misura le prestazioni. La tutela delle persone emerge nel rapporto tra efficienza organizzativa, condizioni di lavoro e possibilità di contestare un controllo continuo.

Caso: Quando a decidere chi può lavorare è il software: il caso iTutorGroup

Un sistema di selezione del personale esclude candidati in base all’età. La tutela non riguarda soltanto la correttezza tecnica del filtro, ma la possibilità che un criterio discriminatorio venga applicato sistematicamente, sottraendo opportunità a persone concrete.

Caso: Quando l’IA colpisce una persona: i deepfake al liceo Newton di Roma

Le immagini manipolate al liceo Newton colpiscono persone riconoscibili, trasformando i loro volti in materiale per la circolazione digitale. Il Caso pone la questione della dignità, del danno reputazionale e della risposta della comunità scolastica quando la produzione artificiale di immagini diventa un’aggressione.

Caso: Quando il chatbot diventa una relazione: il caso Character.AI

Il chatbot viene vissuto da un adolescente come una relazione emotivamente significativa. La madre, Megan Garcia, sostiene che le caratteristiche del servizio abbiano favorito il coinvolgimento del figlio senza protezioni adeguate. Il Caso rende visibile una vulnerabilità che non coincide con l’errore di una risposta: riguarda la relazione che il sistema induce a costruire.

Caso: Il Papa prende posizione sull’IA: l’enciclica Magnifica Humanitas

L’enciclica Magnifica Humanitas considera l’IA anche dal punto di vista della dignità umana, della libertà e delle relazioni. La tutela delle persone non si esaurisce quindi nella prevenzione di singoli danni: comprende la domanda su quali condizioni consentano di restare soggetti delle proprie scelte.

Caso: Quando l’empatia viene scritta da ChatGPT: il caso Vanderbilt

Dopo una tragedia, un’università invia alla comunità un messaggio di vicinanza preparato con ChatGPT. Nicole Joseph e l’Office of Equity, Diversity and Inclusion riconoscono l’inadeguatezza della scelta. Il Caso mostra che la tutela delle persone passa anche attraverso il riconoscimento della loro esperienza e l’autenticità delle relazioni istituzionali.

Caso: Quando un volto diventa un falso nudo: il caso delle ragazze di Almendralejo

La produzione e la diffusione di falsi nudi coinvolgono ragazze minorenni, con effetti reali sulla loro vita anche se i corpi raffigurati non sono i loro. Le ragazze e le loro famiglie chiedono che il danno sia riconosciuto e che la risposta eviti di esporre nuovamente le vittime. Il Caso mette in primo piano la persona colpita, non soltanto il mezzo tecnico impiegato.

Questioni e implicazioni per la scuola

Nella progettazione didattica la tutela delle persone entra in gioco quando si scelgono strumenti, dati da trattare e modalità di partecipazione. Quali informazioni degli studenti sono davvero necessarie? Che cosa accade a chi non vuole o non può utilizzare una determinata tecnologia?

Nella conduzione delle attività possono emergere vulnerabilità non previste: esposizione di immagini, giudizi automatici, sorveglianza, interazioni emotivamente coinvolgenti. Come riconoscere tempestivamente gli effetti sulle persone senza ridurre ogni problema a una violazione di regole?

Nella valutazione degli apprendimenti il caso di Sophie richiama l’attenzione sul rischio di trasformare un sospetto tecnico in un’accusa. Quali garanzie permettono allo studente di spiegare il proprio lavoro e contestare una conclusione errata?

Nelle decisioni organizzative e istituzionali la scuola deve confrontarsi con fornitori, procedure di sicurezza, trattamento dei dati e interventi in caso di danno. Chi ascolta le persone coinvolte? Chi ha il potere di sospendere una pratica o modificarla quando produce effetti inattesi?

Attraversando i Casi emerge una tensione: proteggere non significa necessariamente controllare di più. Anche un dispositivo introdotto per sicurezza può limitare libertà, riservatezza e fiducia. È questa tensione, più che una soluzione unica, a meritare il confronto tra punti di vista.

Per approfondire

Alcuni articoli del blog consentono di approfondire il rapporto tra strumenti, persone e condizioni dell’esperienza educativa:

• La scomparsa della persona — Il rischio di perdere l’unicità delle persone dietro prodotti e linguaggi uniformati dall’IA.
• Capacità da allenare a scuola proprio perché la tecnologia non ce le chiede più — La tutela delle capacità umane anche quando l’ambiente ne rende superfluo l’esercizio.
• Perché non usare l’IA, quando è così comodo farlo? — Prudenza e possibilità di rinuncia come scelte pedagogiche.