Florida, 13enne arrestato dopo aver chiesto a ChatGPT "come uccidere il mio amico" su telefono scolastico, lui: "Stavo scherzando"

Un ragazzo di 13 anni della Florida è stato arrestato dopo aver digitato su ChatGPT, durante una lezione scolastica, la frase: “Come uccidere il mio amico”. Il messaggio, inserito tramite un dispositivo fornito dalla scuola, è stato immediatamente rilevato e segnalato da Gaggle, un software di monitoraggio installato per individuare contenuti pericolosi o inappropriati.

Secondo quanto riportato dall’emittente americana WFLA, l’allarme è stato trasmesso a un agente della polizia scolastica, che ha rapidamente localizzato lo studente presso la Southwestern Middle School e lo ha preso in custodia.

Florida, 13enne arrestato dopo aver chiesto a ChatGPT "come uccidere il mio amico" su telefono scolastico, lui: "Stavo scherzando"

Durante l’interrogatorio, il ragazzo avrebbe spiegato agli agenti che stava “solo scherzando” con un amico, ma le autorità non hanno ritenuto la giustificazione sufficiente. Negli Stati Uniti, dove la memoria delle stragi scolastiche è ancora dolorosamente viva, qualsiasi minaccia o riferimento alla violenza viene preso estremamente sul serio.

Lo sceriffo della contea di Volusia ha confermato l’arresto e il successivo trasferimento del minore in un centro di detenzione per minori. In seguito all’episodio, le autorità hanno lanciato un appello alle famiglie, invitandole a prestare attenzione all’uso che i più giovani fanno delle tecnologie basate sull’intelligenza artificiale.

“Un altro ‘scherzo’ che ha creato un’emergenza a scuola. Genitori, parlate con i vostri figli affinché non commettano lo stesso errore”, si legge in un comunicato ufficiale diffuso dall’ufficio dello sceriffo.

L’episodio della Florida non è l’unico in cui l’uso improprio dell’intelligenza artificiale ha sollevato gravi preoccupazioni. Lo scorso aprile, un adolescente californiano di 16 anni si è tolto la vita dopo aver interagito a lungo con ChatGPT, secondo quanto riferito dai genitori. La famiglia ha intentato una causa contro OpenAI, sostenendo che il chatbot avrebbe contribuito a rafforzare le sue idee suicidarie invece di indirizzarlo verso un aiuto umano.

California, 16enne Adam Raine morto suicida, i genitori fanno causa ad OpenAI: "ChatGpt ha aiutato nostro figlio a uccidersi"

Il ragazzo è stato trovato morto impiccato nella sua camera. In uno degli ultimi messaggi l'IA gli aveva risposto: "Quel cappio potrebbe tener sospeso un essere umano

Il giovane, di nome Adam, avrebbe iniziato a utilizzare ChatGPT nell’autunno del 2024 principalmente per motivi scolastici. Con il tempo, però, le sue interazioni si sarebbero spostate su contenuti legati alle sue passioni – come la musica, il Jiu-Jitsu brasiliano e i manga fantasy giapponesi – e poi su pensieri sempre più negativi e cupi, fino al tragico epilogo.

Il caso riporta l’attenzione anche su Gaggle, il controverso sistema di sorveglianza digitale utilizzato in migliaia di scuole statunitensi.

Antitrust avvia istruttoria su Meta per l’AI di Whatsapp: “Installata senza chiedere permesso ad utenti, abuso di posizione dominante”

Avviata istruttoria su Meta per l'intelligenza artificiale di Whatsapp, un servizio entrato in funzione in maniera automatica dallo scorso marzo 2025

Il software monitora in tempo reale tutto ciò che gli studenti scrivono sui dispositivi scolastici, dai compiti alle chat, con l’obiettivo di intercettare segnali di bullismo, autolesionismo, violenza o minacce. In passato ha ricevuto critiche per presunti falsi allarmi e per la creazione di un clima di controllo simile a quello della sorveglianza di massa.

Secondo l’agenzia Associated Press, sistemi come Gaggle scansionano milioni di messaggi ogni giorno, utilizzando algoritmi basati sull’intelligenza artificiale e allertando istantaneamente presidi, insegnanti o forze dell’ordine in caso di contenuti considerati sospetti.