Quando l’empatia viene scritta da ChatGPT: il caso Vanderbilt
Il Caso
Nel febbraio 2023, pochi giorni dopo una sparatoria alla Michigan State University nella quale vengono uccisi tre studenti e altri cinque rimangono feriti, l’Office of Equity, Diversity and Inclusion del Peabody College della Vanderbilt University invia un’e-mail alla propria comunità universitaria.
Il messaggio parla della necessità di prendersi cura gli uni degli altri, di creare ambienti inclusivi e di costruire una comunità nella quale tutti possano sentirsi accolti e sostenuti.
In fondo all’e-mail compare però una nota: il testo è una parafrasi prodotta utilizzando ChatGPT. Il messaggio è firmato da Nicole Joseph, Associate Dean for Equity, Diversity and Inclusion, e da Hasina Mohyuddin, Assistant Dean.
Alcuni studenti reagiscono duramente. Tra loro c’è Laith Kayat, studente di Vanderbilt originario del Michigan la cui sorella frequenta Michigan State. La contestazione non riguarda soltanto ciò che è scritto nell’e-mail, ma la decisione di affidare a un sistema di intelligenza artificiale la formulazione di un messaggio destinato a esprimere vicinanza umana dopo una tragedia.
Il giorno successivo Nicole Joseph invia un nuovo messaggio riconoscendo che l’utilizzo di ChatGPT in quella circostanza è stato un errore di giudizio. La Dean del Peabody College, Camilla Benbow, comunica inoltre che l’e-mail non aveva seguito il normale processo di revisione dell’università. Joseph e Mohyuddin si ritirano temporaneamente dalle proprie responsabilità nell’ufficio mentre viene esaminato quanto accaduto.
Documentazione: The Guardian – Vanderbilt apologises for using ChatGPT in email on Michigan shooting · USA Today – Vanderbilt University apologizes for using ChatGPT for email on Michigan State shooting
I punti di vista
Gli studenti
Laith Kayat vive la scelta dell’università anche attraverso un coinvolgimento personale: viene dal Michigan e sua sorella frequenta Michigan State.
Per Kayat il problema non consiste semplicemente nell’avere utilizzato una nuova tecnologia per scrivere un’e-mail. Il messaggio pretende di parlare di comunità, vicinanza ed empatia proprio mentre la sua formulazione viene affidata a una macchina. Chiede quindi ai responsabili dell’università una risposta autenticamente umana.
Anche altri studenti sottolineano la contraddizione percepita tra il contenuto del messaggio e il modo in cui è stato prodotto. La contestazione riguarda inoltre la genericità della comunicazione: il testo parla della sparatoria in Michigan senza nominare specificamente Michigan State e senza indicare quali azioni concrete l’università intendesse intraprendere per la sicurezza della propria comunità.
Per approfondire: The Guardian – Le reazioni degli studenti · USA Today – Le testimonianze degli studenti
Nicole Joseph e l’Office of Equity, Diversity and Inclusion
Nicole Joseph non cerca di nascondere che ChatGPT sia stato utilizzato: l’e-mail originaria contiene esplicitamente una nota che attribuisce al sistema la parafrasi del testo.
Dopo le reazioni degli studenti, tuttavia, riconosce che la scelta è stata inappropriata. Nel messaggio inviato il giorno successivo afferma che l’ufficio continua a riconoscersi nel contenuto dell’e-mail sull’inclusione, ma che utilizzare ChatGPT per produrre una comunicazione rivolta alla comunità in un momento di lutto e in risposta a una tragedia contraddice i valori del Peabody College.
Joseph considera inoltre l’episodio un’occasione per riflettere su ciò che l’università conosce e ancora non conosce delle nuove tecnologie che stanno entrando nell’istruzione superiore.
Per approfondire: The Guardian – Le dichiarazioni di Nicole Joseph · USA Today – L’e-mail di scuse
La Dean del Peabody College
Camilla Benbow, Dean del Peabody College, afferma di non essere stata a conoscenza dell’e-mail prima del suo invio e precisa che la comunicazione non aveva seguito il normale processo di revisione previsto dall’università.
Nella sua risposta non mette al centro una valutazione generale sull’utilizzo di ChatGPT. Sottolinea invece la specificità della situazione: dopo una tragedia, una comunicazione dell’istituzione avrebbe dovuto rispondere al bisogno di relazione personale ed empatia della comunità.
Benbow si scusa quindi con le persone che avrebbero dovuto ricevere dall’università una risposta migliore. Annuncia inoltre una revisione di quanto accaduto; durante questa verifica Joseph e Mohyuddin si ritirano temporaneamente dalle loro funzioni nell’Office of Equity, Diversity and Inclusion.
Per approfondire: USA Today – La posizione della Dean Camilla Benbow · The Guardian – La risposta del Peabody College
