Quando non possiamo più credere alle nostre orecchie: il deepfake delle elezioni slovacche

Il Caso

Il 28 settembre 2023, due giorni prima delle elezioni parlamentari in Slovacchia, comincia a circolare sui social network una registrazione presentata come una conversazione telefonica tra Michal Šimečka, leader di Progresívne Slovensko, e Monika Tódová, giornalista del quotidiano Denník N.

Nell’audio i due sembrano discutere di come manipolare le elezioni a favore del partito, anche attraverso l’acquisto di voti nelle comunità rom. La conversazione, però, non è mai avvenuta: le voci sono state artificialmente generate. La registrazione presenta anomalie che diversi esperti riconducono all’uso di tecnologie di sintesi vocale.

Il falso compare durante il periodo di silenzio elettorale e si diffonde rapidamente attraverso Telegram, Facebook, TikTok, YouTube e anche tramite e-mail. Šimečka e Denník N lo denunciano immediatamente come falso; fact-checker ed esperti ne analizzano le caratteristiche. Le autorità slovacche segnalano il contenuto alle principali piattaforme, che intervengono rimuovendo o bloccando diverse copie, mentre su Telegram continua a essere disponibile.

Dopo le elezioni viene aperta anche un’indagine sull’origine della registrazione. Le successive investigazioni non riescono però a identificare chi l’abbia prodotta. Non è possibile stabilire quale effetto il deepfake abbia avuto sul comportamento degli elettori o sul risultato delle elezioni.

Documentazione: Ministero dell’Interno slovacco – Elections 2023 and disinformation · AFP – Verifica della registrazione · UNESCO – Can we believe what we hear?

I punti di vista

Michal Šimečka

Šimečka reagisce pubblicamente alla registrazione dichiarando che la conversazione non è mai avvenuta e che la voce è stata prodotta artificialmente. Sottolinea inoltre che il falso viene diffuso quando è già iniziato il silenzio elettorale.

Si trova così nella situazione di dover contestare pubblicamente parole pronunciate con una voce che sembra la sua, ma che non ha mai pronunciato. La falsificazione non gli attribuisce soltanto un’opinione: costruisce una conversazione nella quale appare coinvolto nell’organizzazione di una frode elettorale.

La registrazione arriva inoltre dopo un altro falso audio, circolato il giorno precedente, nel quale una voce attribuita a Šimečka annunciava un forte aumento del prezzo della birra qualora il suo partito fosse arrivato al governo.

Per approfondire: AFP – Analisi dei falsi audio attribuiti a Šimečka

Monika Tódová e Denník N

Anche Denník N dichiara immediatamente che la conversazione non è mai avvenuta. Il giornale osserva nella registrazione oscillazioni dell’intonazione e pause anomale nell’interazione tra le due voci.

Per Tódová il falso non riguarda soltanto la competizione politica. La registrazione attribuisce a una giornalista la partecipazione diretta alla manipolazione di un’elezione, mettendo quindi in discussione anche la sua attività professionale e la sua credibilità.

Dopo le elezioni Tódová presenta, con il sostegno dell’Investigative Center of Ján Kuciak, una denuncia penale. L’indagine attraversa diverse fasi e viene riaperta dopo una prima archiviazione; le autorità non riescono infine a identificare l’autore della registrazione.

Per approfondire: Investigative Center of Ján Kuciak – Ricostruzione della diffusione del deepfake · Denník N – L’indagine sull’autore del deepfake

I fact-checker e gli esperti

AFP sottopone la registrazione a diversi esperti. L’analisi individua anomalie nell’intonazione, nelle pause e nell’interazione tra le voci compatibili con una manipolazione mediante tecnologie di sintesi vocale.

Gli esperti precisano però che non esiste uno strumento capace di stabilire con certezza assoluta, semplicemente analizzando un file, se un contenuto sia stato generato dall’intelligenza artificiale. La verifica nasce quindi dalla convergenza di diversi elementi: caratteristiche tecniche della registrazione, analisi delle voci, contesto e riscontri sulle persone coinvolte.

Il lavoro di verifica avviene mentre il contenuto continua a circolare. Una parte del problema non consiste quindi soltanto nello stabilire se la registrazione sia autentica, ma nel riuscire a far arrivare questa verifica alle stesse persone raggiunte dal falso.

Per approfondire: AFP – La verifica tecnica della registrazione · UNESCO – Il caso slovacco come attività di Media and Information Literacy

Le autorità slovacche

Il Centro per il contrasto alle minacce ibride del Ministero dell’Interno monitora durante le elezioni la diffusione di contenuti falsi e fuorvianti. Individua il deepfake Šimečka-Tódová e lo considera un contenuto capace di incidere sulla credibilità del processo elettorale.

La segnalazione viene trasmessa alle strutture competenti, che contattano Facebook, YouTube e TikTok. Le piattaforme bloccano o rimuovono i contenuti segnalati; la registrazione rimane invece disponibile su Telegram.

L’analisi pubblicata successivamente dal Ministero ricostruisce una diffusione che non passa soltanto attraverso un singolo post: il contenuto viene ripubblicato su piattaforme differenti, inserito nei commenti, trasformato in screenshot e accompagnato da una trascrizione diffusa attraverso e-mail a catena. L’origine della registrazione e l’identità di chi l’ha creata non vengono individuate.

Per approfondire: Ministero dell’Interno slovacco – Analisi delle elezioni 2023 e della disinformazione · Rapporto – Most prominent misleading and deceptive content