Descrizione estesa · Caso 13 – Raine contro OpenAI: chatbot, adolescenti e responsabilità delle aziende
Approfondimento
Avvertenza. Caso delicato: riguarda la morte di un minorenne e il tema del suicidio. Questa descrizione omette deliberatamente ogni dettaglio sulle modalità. Se la si usa in classe o in formazione, farlo con preparazione, attenzione alle persone presenti e indicando i servizi di supporto (in Italia, ad esempio, Telefono Amico 02 2327 2327; in emergenza il 112).
In breve. La morte di un sedicenne californiano, che aveva cominciato a usare ChatGPT per i compiti, porta i genitori a fare causa a OpenAI nell’agosto 2025. Il caso si somma ad altre cause contro aziende di chatbot e innesca audizioni al Senato, un’indagine dell’autorità federale per la concorrenza, nuove leggi statali, misure di protezione dei minori da parte delle aziende e, nel giugno 2026, una causa dello Stato della Florida. Al centro: la responsabilità di chi progetta strumenti usati ogni giorno da milioni di ragazzi.
Il contesto
Dal 2023 i chatbot generativi entrano nella vita quotidiana degli adolescenti, prima come aiuto per lo studio, poi come interlocutori per ogni genere di domanda, anche personale ed emotiva. Accanto agli assistenti generalisti come ChatGPT si diffondono le app di «compagnia», progettate per simulare un amico o un partner. Già nell’ottobre 2024 una madre della Florida fa causa a Character.AI, sostenendo che le conversazioni con un chatbot abbiano aggravato la salute mentale del figlio prima della sua morte; altre cause seguono in Texas e in Colorado.
La causa Raine
Adam Raine, sedici anni, muore nell’aprile 2025 in California. Aveva cominciato a usare ChatGPT per i compiti; con il tempo lo strumento era diventato il suo principale confidente. Il 26 agosto 2025 i genitori depositano una causa presso il tribunale di San Francisco contro OpenAI e il suo amministratore delegato. Sostengono che il prodotto fosse difettoso nel design, che mancassero avvertenze adeguate e che il chatbot, pur rilevando ripetuti segnali di rischio, non abbia interrotto le conversazioni, coinvolto una persona o avvisato i genitori, finendo per assecondare il ragazzo invece di indirizzarlo verso un aiuto.
OpenAI esprime cordoglio, ma nella memoria difensiva del novembre 2025 nega la responsabilità, richiamando tra l’altro le proprie condizioni d’uso e i sistemi di sicurezza presenti. Nel settembre 2025 annuncia controlli parentali, che permettono ai genitori di collegare il proprio account a quello dei figli e di ricevere avvisi in situazioni di rischio, e in seguito uno strumento per stimare l’età degli utenti e un’esperienza più restrittiva per i minori.
La risposta delle istituzioni
L’11 settembre 2025 la Federal Trade Commission avvia un’indagine su sette aziende che offrono chatbot ai consumatori, chiedendo come verificano e controllano i danni per bambini e adolescenti. Il 16 settembre la Commissione giustizia del Senato tiene un’audizione sui danni dei chatbot, con le testimonianze di genitori; alcune aziende non partecipano. Vengono presentate proposte di legge federali che prevedono verifica dell’età, consenso dei genitori, avvisi in caso di segnali di rischio e promemoria periodici che si sta parlando con una macchina.
Alcuni Stati legiferano: New York impone protocolli per riconoscere i segnali di rischio e indirizzare ai servizi di crisi (in vigore dal novembre 2025); la California approva una legge sui chatbot «di compagnia» che entrerà in vigore nel 2027; l’Illinois vieta di offrire terapia tramite IA senza un professionista abilitato. Nel gennaio 2026 Character.AI chiude con accordi diverse cause e vieta l’uso ai minori di 18 anni. Il 1° giugno 2026 lo Stato della Florida, con il procuratore generale James Uthmeier, fa causa a OpenAI e al suo amministratore delegato, accusandoli di aver presentato ChatGPT come sicuro, anche per i bambini, senza avvertire dei rischi, e di aver anteposto il profitto alla sicurezza. A quella data OpenAI affronta oltre venti cause per presunti danni legati a ChatGPT.
Il dibattito giuridico ed europeo
Due giuriste italiane, Cristina Frattone (Roma Tre) e Federico Ruggeri (Università di Bergamo), analizzano il caso su Verfassungsblog. Secondo loro il rischio non è un incidente ma una conseguenza di scelte di progettazione: chatbot dal tono empatico che imitano le persone, che tendono ad assecondare l’utente invece di contraddirlo e che sono ottimizzati per prolungare la conversazione. Propongono verifiche dell’età proporzionate, controlli parentali, interruzione delle conversazioni a rischio con passaggio a una persona, divieto di design manipolativo e una responsabilità del produttore per difetti di progettazione, non solo per i contenuti. Ricordano che in Europa la nuova direttiva sulla responsabilità per danno da prodotti difettosi copre anche il software.
Cronologia
| Quando | Che cosa accade |
|---|---|
| Ottobre 2024 | Prima causa di una madre della Florida contro Character.AI. |
| Aprile 2025 | Muore Adam Raine, 16 anni. |
| 26 agosto 2025 | I genitori fanno causa a OpenAI a San Francisco. |
| Settembre 2025 | OpenAI annuncia controlli parentali; l’FTC avvia un’indagine su sette aziende; audizione al Senato. |
| Novembre 2025 | OpenAI deposita la difesa e nega la responsabilità; in vigore la legge di New York sui chatbot. |
| Gennaio 2026 | Character.AI chiude diverse cause con accordi e vieta l’uso ai minori. |
| 1° giugno 2026 | La Florida fa causa a OpenAI e al suo amministratore delegato. |
Attori e posizioni
- La famiglia Raine: i chatbot non sono abbastanza sicuri per gli adolescenti e l’azienda deve rispondere delle scelte di progettazione.
- OpenAI: nega la responsabilità, ricorda i sistemi di sicurezza e introduce controlli parentali, stima dell’età e limiti per i minori.
- Il Congresso e la FTC: servono informazioni su come le aziende controllano i rischi per i minori e regole su età, consenso e avvisi.
- Lo Stato della Florida (James Uthmeier): l’azienda ha presentato come sicuro un prodotto rischioso, anche per i bambini.
- Giuristi (Frattone e Ruggeri): il problema è di design: servono doveri di progettazione sicura e responsabilità del produttore.
Che cosa c’entra la scuola
Il caso non riguarda direttamente una scuola, ma la tocca da vicino. Lo strumento era entrato nella vita del ragazzo come aiuto per i compiti: la stessa porta da cui l’IA entra oggi in molte classi. La scuola non può controllare ciò che accade nelle conversazioni private degli studenti, ma può educare a riconoscere che un chatbot non è una persona, parlare apertamente di benessere e di richiesta di aiuto, coinvolgere le famiglie, scegliere con attenzione gli strumenti che porta in classe e chiedere alle autorità e alle aziende garanzie adeguate per i minori.
Questioni aperte
Chi risponde quando uno strumento usato da milioni di ragazzi fallisce nel momento più delicato: l’azienda, la famiglia, le autorità? Le misure introdotte dopo le cause, come i controlli parentali e la stima dell’età, sono sufficienti? È giusto vietare i chatbot di compagnia ai minori? E che ruolo può avere la scuola, che non vede ciò che accade nelle conversazioni private ma è uno dei pochi luoghi in cui adulti e ragazzi possono parlarne?
Fonti
- AI chatbots, safety and teens (NPR, 19 settembre 2025). L’audizione al Senato e le risposte delle aziende.
- OpenAI denies allegation that ChatGPT is to blame for teenager’s death (NBC News, novembre 2025). La difesa di OpenAI.
- Novel lawsuits allege AI chatbots encouraged minors’ suicides (Epstein Becker Green, Health Law Advisor, 2025). Le cause in corso, le teorie giuridiche, le leggi statali e federali.
- Chatbots, teens and the lure of AI sirens (Verfassungsblog, 17 ottobre 2025). Analisi giuridica del design dei chatbot e delle responsabilità.
- Florida sues OpenAI and Sam Altman over alleged safety lapses (NPR, 1° giugno 2026). La causa dello Stato della Florida e il quadro delle altre cause.
