Quando un algoritmo segnala una famiglia come sospetta: lo scandalo dei sussidi per l’infanzia nei Paesi Bassi

Il Caso

Per individuare possibili irregolarità nelle richieste dei sussidi destinati alle spese per l’infanzia, l’amministrazione fiscale olandese utilizza un sistema di classificazione del rischio. Tra i dati considerati compare anche la nazionalità: non avere la cittadinanza olandese può contribuire ad aumentare il punteggio di rischio attribuito a una domanda.

Le richieste segnalate vengono sottoposte a controlli più approfonditi. All’interno di un sistema antifrode particolarmente rigido, migliaia di famiglie vengono accusate ingiustamente di irregolarità e costrette a restituire somme anche molto elevate. Debiti, perdita della casa o del lavoro e crisi familiari sono tra le conseguenze successivamente documentate.

L’algoritmo non decide autonomamente chi debba restituire i sussidi: intervengono funzionari e procedure amministrative. Ma chi effettua i controlli non conosce necessariamente le ragioni per cui il sistema ha attribuito un punteggio elevato a una determinata famiglia. Nel 2020 l’Autorità olandese per la protezione dei dati stabilisce che l’utilizzo della nazionalità da parte dell’amministrazione fiscale è stato illecito e discriminatorio.

Negli anni successivi il governo riconosce le gravi responsabilità dello Stato e avvia programmi di risarcimento e sostegno. Le conseguenze continuano però molto dopo l’abbandono delle pratiche contestate: nel 2025 il governo riconosce anche che, per alcune famiglie, i problemi economici prodotti dallo scandalo hanno contribuito a situazioni nelle quali i figli sono stati successivamente allontanati da casa.

Documentazione: Amnesty International – Xenophobic Machines · Autorità olandese per la protezione dei dati – Indagine sull’amministrazione fiscale · Government of the Netherlands – Government acknowledges additional suffering of children placed in care

I punti di vista

I genitori coinvolti

Batya Brown è una delle persone accusate ingiustamente di aver ricevuto sussidi ai quali non avrebbe avuto diritto. Racconta di aver ricevuto, poco più che ventenne, una comunicazione dell’amministrazione fiscale che le chiedeva di restituire somme molto elevate senza riuscire a comprendere che cosa avesse fatto di sbagliato.

La richiesta la trascina in anni di problemi burocratici e finanziari. Anche dopo essere stata riconosciuta come vittima dello scandalo, Brown descrive la difficoltà di ottenere una riparazione che tenga conto della propria vicenda individuale e non la trasformi nuovamente in un numero.

Le esperienze raccolte mostrano conseguenze molto diverse da famiglia a famiglia: indebitamento, perdita dell’abitazione, disoccupazione, stress e rottura delle relazioni familiari. Per alcune persone il problema non è stato quindi soltanto essere classificate erroneamente, ma riuscire successivamente a comprendere, contestare e correggere ciò che l’amministrazione aveva deciso.

Per approfondire: Amnesty International – La testimonianza di Batya Brown

L’amministrazione fiscale e il governo olandese

Il sistema nasce dall’obiettivo di individuare richieste inesatte e possibili frodi nell’erogazione di denaro pubblico. L’amministrazione utilizza strumenti di analisi del rischio per selezionare le domande da sottoporre a controlli più approfonditi, all’interno di una politica antifrode che negli anni diventa particolarmente severa.

Le successive indagini mostrano però che la nazionalità era stata utilizzata senza necessità sia nelle attività antifrode sia nel sistema automatico di classificazione del rischio. I problemi non riguardavano soltanto il modello algoritmico: regole rigide, modalità di recupero delle somme, informazioni insufficienti e incapacità delle istituzioni di reagire alle segnalazioni contribuirono alle conseguenze sulle famiglie.

Dopo l’emersione dello scandalo, lo Stato riconosce le proprie responsabilità e avvia procedure di risarcimento e sostegno. Nel 2025 il governo riconosce inoltre che i debiti e lo stress provocati dalle richieste dell’amministrazione fiscale hanno aggravato in alcune famiglie problemi che hanno contribuito all’allontanamento dei figli. Le politiche di riparazione sono ancora in corso.

Per approfondire: Government of the Netherlands – Misure di riparazione per le famiglie coinvolte · Government of the Netherlands – Sostegno alle famiglie con figli allontanati

L’Autorità olandese per la protezione dei dati

L’Autorità esamina specificamente il trattamento della nazionalità da parte dell’amministrazione fiscale. Accerta che il dato sulla doppia cittadinanza avrebbe dovuto essere cancellato già nel 2014, ma che nel 2018 era ancora registrato nei sistemi per circa 1,4 milioni di persone.

La nazionalità veniva inoltre utilizzata per contrastare le frodi organizzate e come indicatore nel sistema che selezionava automaticamente le domande considerate rischiose. Secondo l’Autorità, per queste finalità il dato non era necessario e il suo utilizzo produceva una distinzione ingiustificata tra persone sulla base della nazionalità.

L’Autorità qualifica quindi queste pratiche come illecite e discriminatorie. Nel 2021 infligge all’amministrazione fiscale una sanzione di 2,75 milioni di euro per il trattamento illegittimo dei dati sulla doppia nazionalità.

Per approfondire: Autorità olandese per la protezione dei dati – Risultati dell’indagine · Autorità olandese – Sanzione all’amministrazione fiscale

Amnesty International

Amnesty analizza il sistema di classificazione del rischio all’interno del più ampio scandalo e concentra l’attenzione sull’utilizzo della nazionalità. Secondo la sua analisi, attribuire un rischio maggiore alle persone prive della cittadinanza olandese ha prodotto una forma di profilazione discriminatoria.

L’organizzazione mette inoltre in evidenza il funzionamento del rapporto tra algoritmo e persone. Un funzionario doveva effettuare un controllo manuale dopo la segnalazione, ma non disponeva delle informazioni necessarie per comprendere perché il sistema avesse assegnato un determinato punteggio di rischio. La presenza dell’intervento umano non garantiva quindi, secondo Amnesty, un controllo effettivo della decisione algoritmica.

Amnesty utilizza il caso olandese per chiedere maggiori garanzie nell’impiego di sistemi algoritmici da parte delle amministrazioni pubbliche: valutazione preventiva dell’impatto sui diritti, trasparenza, possibilità di controllo e strumenti attraverso i quali le persone possano contestare decisioni che incidono sulla loro vita.

Per approfondire: Amnesty International – Xenophobic Machines