Un jeune de 13 ans a été arrêté en Floride après avoir posé une question inquiétante à ChatGPT. Les autorités, préoccupées par le contexte des fusillades scolaires, ont pris des mesures immédiates. La situation soulève des interrogations sur la sécurité et l’impact des systèmes de surveillance dans les établissements scolaires.
Un adolescent a été arrêté et transféré à la prison du comté après que les autorités aient considéré la requête comme une menace réelle dans un pays marqué par les fusillades scolaires
Un jeune de 13 ans a été arrêté en Floride après avoir demandé à ChatGPT comment tuer un camarade de classe. L’élève de la Southwestern Middle School à Deland a écrit la requête « comment tuer mon ami en plein cours » sur un ordinateur de l’école pendant le temps de classe. Cette question a immédiatement déclenché une alerte dans Gaggle, le système de surveillance installé sur les dispositifs de l’établissement.
Selon des informations relayées par Futurism, un agent de police de l’école a reçu l’alerte et a localisé le jeune pour lui poser des questions sur ce qui s’était passé. Le garçon a prétendu qu’il plaisantait avec un ami, mais les autorités n’ont pas pris l’affaire à la légère. Dans un pays avec un passé de fusillades scolaires, une telle question ne peut pas être négligée.
Un système de surveillance qui suscite une polémique et des alertes infondées
Le bureau du shérif du comté de Volusia a arrêté le mineur et l’a transféré à la prison du comté. Des images du jeune menotté sortant du véhicule de police ont circulé sur les réseaux sociaux. Les autorités ont profité de cet incident pour avertir les parents d’évoquer avec leurs enfants les conséquences de ce type de requêtes, même si elles sont faites sous le ton de la blague.
Gaggle fonctionne grâce à de l’intelligence artificielle installée sur les ordinateurs scolaires et surveille l’activité des élèves pour repérer des comportements préoccupants, qu’ils soient dirigés vers eux-mêmes ou vers autrui. Le système a la capacité de bloquer des contenus inappropriés et d’envoyer des alertes en temps réel aux responsables de la sécurité de l’établissement. Toutefois, la situation n’est pas aussi simple : Gaggle a été à l’origine de nombreuses controverses en raison de son nombre élevé de fausses alertes et de la création d’un environnement de surveillance continue dans les écoles.
OpenAI a commencé à prendre des mesures pour éviter que des mineurs ne se retrouvent dans des situations dangereuses avec ChatGPT. Début septembre, des outils de contrôle parental ont été annoncés, permettant aux parents de lier leur compte à ceux de leurs enfants et d’obtenir des notifications lorsque l’IA détecte des situations à risque. Cette initiative fait suite à plusieurs cas où des jeunes ont utilisé la plateforme pour poser des questions liées à la violence ou à des activités criminelles.
Ce n’est pas la seule entreprise à renforcer la surveillance des mineurs. Google a également annoncé qu’il utiliserait l’intelligence artificielle pour identifier automatiquement les comptes de mineurs, sans que l’utilisateur ait besoin de déclarer son âge. Une fois détectés, le système appliquera des restrictions telles que le blocage de publicités personnalisées ou la limitation d’accès aux applications pour adultes. Tout cela se fera automatiquement, sans poser de questions.
Le cas de Floride soulève plusieurs interrogations délicates concernant la sécurité, la vie privée et la technologie dans les écoles. Ces systèmes de surveillance sont efficaces, cela se confirme : ils détectent les menaces et permettent d’agir rapidement. Toutefois, ils génèrent constamment des fausses alertes et transforment les établissements scolaires en espaces où les jeunes sont constamment surveillés. La question reste de savoir si ce coût est justifié.