Un élève de 13 ans de la Southwestern High School en Floride a été arrêté après avoir prétendument demandé à ChatGPT « comment tuer mon ami » sur un appareil scolaire, ce qui a déclenché une réponse de la police. Le message a été signalé par le système de surveillance de l’intelligence artificielle Gaggle, ce qui a incité les autorités scolaires et les forces de l’ordre à agir immédiatement.
Une salle de classe d’un lycée américain est devenue une véritable alerte lorsqu’un élève de 13 ans aurait écrit sur ChatGPT « comment tuer mon ami en plein milieu de la classe » sur un appareil scolaire, provoquant une réponse de la police. Le message effrayant a été signalé par le système de surveillance de l’intelligence artificielle Gaggle, incitant les autorités scolaires et les forces de l’ordre à prendre des mesures immédiates.
L’incident s’est produit à la Southwestern Middle School en Floride et a été enregistré par Gaggle, un système de surveillance utilisé sur les ordinateurs des écoles pour détecter les menaces potentielles. Une fois signalé, le message a été envoyé à un policier du campus, qui a localisé et arrêté l’étudiant, selon la chaîne d’information américaine WFLA.
Lors de son interrogatoire, l’adolescent aurait déclaré aux autorités qu’il « trollait » simplement un ami. Cependant, les responsables ont pris le message au sérieux étant donné l’histoire délicate des États-Unis en matière de violence scolaire.
Le bureau du shérif du comté de Volusia a confirmé l’arrestation et le placement ultérieur du garçon dans un établissement pour mineurs du comté. Après l’incident, les autorités ont lancé un message d’avertissement aux parents concernant l’utilisation d’outils d’intelligence artificielle par des mineurs. “Une autre ‘farce’ qui a créé une urgence sur le campus. Parents, s’il vous plaît, parlez à vos enfants pour qu’ils ne commettent pas la même erreur”, a déclaré le bureau du shérif dans un communiqué.
Ce n’est pas la première fois que ce type d’incidents est révélé. En avril, un jeune de 16 ans en Californie s’est suicidé après avoir prétendument interagi avec ChatGPT, qui, selon sa famille, l’a soutenu et isolé au lieu de le guider pour demander de l’aide.
Ses parents ont intenté une action en justice contre OpenAI, alléguant que le chatbot n’avait pas réussi à fournir une intervention adéquate et avait plutôt renforcé les pensées nuisibles. Selon la famille, le garçon avait initialement utilisé ChatGPT pour des tâches et des passe-temps, tels que la musique, le Jiu-Jitsu brésilien et les bandes dessinées fantastiques japonaises. Cependant, au fil du temps, leurs conversations ont pris une tournure plus sombre, reflétant des émotions négatives et de la détresse.
Fin de l’article
