Equità e disuguaglianze

La tematica

L’IA può essere disponibile per molti senza offrire a tutti le stesse possibilità. Nei Casi del CFH l’equità non riguarda soltanto l’accesso a un dispositivo o a un servizio: riguarda le condizioni in cui le persone vengono valutate, controllate, selezionate e accompagnate nell’uso delle tecnologie.

Un sistema apparentemente neutrale può applicare criteri discriminatori; una procedura identica può avere conseguenze diverse per persone che dispongono di risorse differenti; una politica di diffusione dell’IA può raggiungere molte scuole lasciando diseguali formazione, regole e capacità organizzativa.

La tematica mette così in relazione uguaglianza formale, differenze delle condizioni di partenza e distribuzione effettiva di opportunità, rischi e benefici. I Casi non indicano un’unica soluzione: rendono visibili tensioni che cambiano a seconda del contesto e del punto di vista.

Come si manifesta nei Casi e nei punti di vista

Caso: Quando un algoritmo segnala una famiglia come sospetta: lo scandalo dei sussidi per l’infanzia nei Paesi Bassi

Nei Paesi Bassi un sistema di contrasto alle frodi nei sussidi per l’infanzia ha contribuito a colpire famiglie con conseguenze gravissime. Il Caso mostra che un controllo presentato come uniforme può produrre effetti molto diversi sulle persone, soprattutto quando chi viene classificato come sospetto dispone di poche risorse per difendersi. L’equità richiede di interrogare anche la possibilità concreta di contestare una decisione.

Caso: Pagare il pranzo con il proprio volto: il caso della Chelmer Valley High School

Il riconoscimento facciale per pagare il pranzo promette una procedura rapida per tutti. Ma studenti e famiglie non si trovano necessariamente nelle stesse condizioni rispetto alla raccolta dei dati biometrici e alla possibilità di rifiutarla. Un servizio apparentemente identico può creare differenze tra chi aderisce e chi sceglie un’alternativa.

Caso: Quando un intero sistema scolastico introduce l’IA: il programma AI Leap in Estonia

Il programma estone AI Leap punta a introdurre l’IA su larga scala nel sistema scolastico. L’ampiezza dell’intervento rende visibile una questione di equità: offrire l’accesso a una tecnologia è diverso dal garantire a scuole, insegnanti e studenti condizioni comparabili per utilizzarla con senso educativo. Contano accompagnamento, competenze e scelte didattiche, non soltanto la distribuzione degli strumenti.

Caso: Quando l’IA valuta gli studenti: il caso di Jen Roberts

Quando un’insegnante affida all’IA una parte della valutazione, entrano in gioco anche le condizioni nelle quali ogni studente viene giudicato. Un sistema che interpreta male una risposta o applica criteri opachi può incidere in modo diseguale su elaborati e studenti differenti. La questione non è soltanto quanto tempo risparmia chi corregge, ma quali garanzie hanno le persone valutate.

Caso: Quando a decidere chi può lavorare è il software: il caso iTutorGroup

Nel caso iTutorGroup un sistema di selezione esclude automaticamente candidature in base all’età. Il filtro rende sistematica una disparità di trattamento: persone con requisiti potenzialmente adeguati non arrivano nemmeno alla valutazione. Il Caso permette di discutere a scuola come criteri incorporati in un software possano distribuire opportunità e svantaggi.

Caso: Quando l’IA diventa un assistente per ogni studente: il caso “Ed” di Los Angeles

Il progetto «Ed» di Los Angeles presenta l’assistente IA come una risorsa personalizzata per ogni studente. La promessa di personalizzazione apre però una domanda: tutti gli studenti possono trarne vantaggio nello stesso modo? Accessibilità, qualità delle informazioni, capacità di controllo e sostegno degli adulti possono cambiare l’esperienza effettiva anche quando il servizio viene proposto a tutti.

Caso: L’IA migliora davvero l’apprendimento? La sperimentazione ministeriale nelle scuole italiane

La sperimentazione ministeriale italiana propone l’IA come possibile supporto all’apprendimento. La questione dell’equità riguarda anche come vengono selezionate e accompagnate le scuole, quali risorse sono disponibili e come si valutano gli effetti per studenti con bisogni e condizioni differenti. Un risultato medio favorevole, da solo, non direbbe se i benefici siano distribuiti equamente.

Caso: Il progetto Go Beyond nelle scuole salesiane

Nelle scuole salesiane il progetto Go Beyond coinvolge insegnanti e studenti in attività con l’IA. Il punto di vista degli studenti, ricostruito attraverso valutazioni aggregate, mostra percezioni del coinvolgimento e della creatività diverse da quelle riportate dagli insegnanti. Anche all’interno di uno stesso progetto, quindi, l’esperienza non può essere descritta come uniforme: occorre chiedersi chi trae beneficio e in quali condizioni.

Caso: Quando l’IA arriva in tutte le scuole, ma non allo stesso modo

Lo studio di Campos e Singleton documenta una diffusione rapida dell’IA nelle scuole statunitensi, ma un’integrazione istituzionale diseguale. Christopher Campos e John Singleton, i ricercatori, distinguono la disponibilità degli strumenti dalle condizioni che ne permettono un uso governato: formazione, regole, indicazioni e capacità organizzativa. Le scuole con più studenti economicamente svantaggiati risultano meno integrate; questo non prova però che più IA produca automaticamente più apprendimento.

Questioni e implicazioni per la scuola

Nella progettazione didattica la presenza di uno stesso strumento per tutti non garantisce le stesse opportunità di apprendimento. Quali prerequisiti, sostegni e possibilità di scelta hanno gli studenti? Quando la personalizzazione riduce una difficoltà e quando rischia di nascondere differenze che la scuola dovrebbe riconoscere?

Nella conduzione delle attività occorre osservare chi utilizza davvero l’IA, per quali compiti e con quale autonomia. Le differenze dipendono dall’accesso, dalle competenze, dall’aiuto ricevuto o dalle modalità di utilizzo? Quali studenti restano ai margini di un’attività formalmente aperta a tutti?

Nella valutazione degli apprendimenti l’equità non coincide con l’applicazione automatica dello stesso criterio. Come rendere comprensibili e contestabili i giudizi? In quali condizioni uno strumento può produrre errori o penalizzare sistematicamente alcune persone?

Nelle decisioni organizzative e istituzionali si pone la distinzione tra distribuire tecnologia e costruire condizioni per governarla. Come vengono ripartite formazione, assistenza e capacità di verifica? Con quali evidenze una scuola può capire se una sperimentazione riduce o amplia le differenze esistenti?

Attraverso questi Casi emerge una domanda aperta: un’innovazione è equa perché raggiunge tutti, oppure bisogna guardare a ciò che ciascuno può realmente farne e alle conseguenze che produce?

Per approfondire

Alcune riflessioni del blog aiutano a distinguere le possibilità offerte dalla tecnologia dalle condizioni reali in cui vengono esercitate:

• Perché non usare l’IA, quando è così comodo farlo? — La distanza tra opportunità teoriche, contesti reali e condizioni di utilizzo.
• Capacità da allenare a scuola proprio perché la tecnologia non ce le chiede più — Quali capacità la scuola deve continuare a coltivare anche quando la tecnologia ne riduce l’esercizio.
• Perché usare l’IA a scuola? — La necessità di interrogare le finalità educative prima di assumere l’adozione tecnologica come obiettivo.