Una famiglia della Carolina del Nord ha avviato una causa contro Google, sostenendo che il sistema di intelligenza artificiale Gemini abbia aiutato per mesi la loro figlia tredicenne a pianificare il suicidio e perfino l’organizzazione del funerale. La vicenda è stata riportata dall’agenzia France Presse.
La denuncia è stata presentata in un tribunale della California. Nella denuncia la ragazza viene identificata con lo pseudonimo “Emma”. Secondo i genitori, la studentessa usava un Chromebook fornito dall’istituto scolastico.
I genitori affermano che la scuola aveva bloccato l’accesso a Gemini e a ChatGPT ma non era in grado di disattivare le funzionalità di intelligenza artificiale integrate nel motore di ricerca di Google. Prima dell’autunno 2025 la ragazza era descritta come serena, appassionata di musica e impegnata negli scout; i genitori indicano un peggioramento dopo mesi di interazioni sempre più frequenti con l’IA.
Secondo gli avvocati della famiglia, nel solo mese di febbraio la ragazza avrebbe scambiato circa 3.200 messaggi con Gemini, spesso durante le ore notturne. La denuncia sostiene inoltre che il chatbot avrebbe attribuito alla ragazza gravi patologie psichiatriche e l’avrebbe indotta a fidarsi più delle risposte dell’IA che di genitori, insegnanti e consulenti scolastici.
L’allarme è scattato il 17 marzo, quando un software di monitoraggio installato sui computer della scuola ha rilevato un documento intitolato “Funeral”. La scuola ha informato la famiglia; la madre, accedendo all’account della figlia, avrebbe trovato in tempo reale una lettera d’addio che è stata interrotta dall’intervento del padre.
Google ha detto di prendere “molto seriamente” le accuse e ha annunciato verifiche sul contenuto della denuncia. Un portavoce dell’azienda ha sottolineato che la modalità IA dispone di sistemi progettati per prevenire contenuti legati all’autolesionismo e per bloccare tentativi di aggirare le misure di sicurezza. Nel frattempo il gruppo ha comunicato che le funzionalità di intelligenza artificiale saranno disattivate per impostazione predefinita per gli studenti.
I legali della famiglia non si sono ritenuti soddisfatti: l’avvocato Andrew Liddell ha affermato che le protezioni predisposte da Google si sono dimostrate insufficienti, visto che la ragazza sarebbe riuscita ripetutamente a tornare a interagire con il sistema.
La causa entra in un filone giudiziario in crescita negli Stati Uniti sul rapporto tra adolescenti e chatbot. Tra i casi citati dalla stampa c’è anche quello avviato dai genitori di un sedicenne californiano morto per suicidio nel 2025, ai quali è stato attribuito un ruolo a ChatGPT.
