Les écoles de New York interdisent ChatGpt : l’intelligence artificielle rédige des essais mieux que les étudiants

Les écoles De New York Interdisent Chatgpt : L'intelligence Artificielle Rédige

Depuis quelques semaines, un logiciel est sorti sur le net pour comprendre si un texte est généré par l’intelligence artificielle : il s’appelle GPTzero.

Tout commence par une Intelligence Artificielle (IA) trop humaine, ChatGpt. Il écrit des textes, des essais, répond aux questions et génère le chaos. Comme cela arrive à chaque fois qu’une innovation qui fonctionne bien voit le jour. Au milieu de la stupéfaction générale, il y a aussi les effets secondaires, dont une épidémie de plagiat dans les écoles.

En conséquence, le ministère de l’Éducation de New York a interdit le chatbot sur tous les appareils et réseaux des écoles publiques de la ville. Et ce n’est peut-être pas le seul. En fait, la grande crainte est de ne plus pouvoir reconnaître si un texte a été composé par un élève ou par une IA. Et puis donnez le feu vert pour copier chaque test écrit.

Le veto de New York

La porte-parole de l’initiative, Jenna Lyle, a expliqué que la décision découlait de « préoccupations concernant les impacts négatifs sur l’apprentissage des élèves et des préoccupations concernant la sécurité et l’exactitude du contenu ». Alors les écoles de New York coupent la tête du taureau et décident de répondre au problème du plagiat en bloquant ChatGpt. « Bien que l’outil puisse fournir des réponses rapides et faciles aux questions, il ne développe pas la pensée critique et les compétences de résolution de problèmes, qui sont essentielles pour la réussite scolaire et tout au long de la vie », a déclaré Lyle. « Cependant, les écoles individuelles peuvent toujours demander l’accès à ChatGpt à des fins d’éducation liées à l’IA et à la technologie. »

Comment fonctionne l’IA qui écrit

ChatGpt est un logiciel génial créé par OpenAI. C’est sûrement l’intelligence artificielle la plus performante jamais rendue publique. Capable d’écrire des essais, d’avoir des conversations, de discuter sur Tinder pour les utilisateurs, de contester des prémisses incorrectes et de refuser des demandes inappropriées. Les utilisateurs peuvent également demander des reformulations, des résumés et des extensions des textes produits.

Pour cette raison, l’IA est devenue l’outil parfait pour copier à l’école ou au collège. Cela a duré une poignée de jours, puis les professeurs ont réussi à retrouver des traces du chatbot dans les textes écrits des élèves, dénonçant également l’astuce ChatGpt sur les réseaux sociaux.

Réponse de ChatGpt

OpenAI a tenté de rassurer les enseignants. La société a déclaré au Washington Post : « Nous ne voulons pas que ChatGPT soit utilisé à des fins trompeuses dans les écoles ou ailleurs, nous développons déjà des mesures d’atténuation pour aider quiconque à identifier le texte généré par ce système. Nous sommes impatients de travailler avec les éducateurs sur des solutions utiles et d’autres moyens d’aider les enseignants et les élèves à bénéficier de l’IA. »

Le mois dernier, le PDG d’OpenAI, Sam Altman, a tweeté « ChatGPT est incroyablement limité, mais assez bon pour certaines choses pour créer une fausse impression de grandeur. » Et encore : « C’est une erreur de s’y fier pour quelque chose d’important en ce moment. C’est un aperçu de progrès ; nous avons beaucoup de travail à faire sur la robustesse et la véracité », a-t-il ajouté : « Amusant, inspiration créative ; génial ! S’appuyer sur des requêtes factuelles ; pas une bonne idée.

Une solution déjà disponible

Edward Tian, ​​informaticien à l’université de Princeton, a créé une application pour détecter si le texte a été écrit par le chatbot. Il s’appelle GPTZero, « capable de déchiffrer rapidement et efficacement si un humain ou une IA a écrit un texte », explique Tian. « Il y a tellement de battage autour de ChatGpt. Est-ce que ceci et cela ont été écrits par l’IA ? Nous, les humains, méritons de savoir ! », a écrit Tian dans un tweet pour présenter GPTZero.

Plus de 30 000 personnes ont essayé l’application dans la semaine suivant son lancement. Cela fonctionne comme ceci : pour déterminer l’originalité d’un texte il se base sur différents paramètres, par exemple il mesure la complexité, plus elle est élevée, plus il est susceptible d’appartenir à un humain, ou encore la variation des périodes, une intelligence artificielle va ont tendance à écrire avec un style uniforme.

La course aux nouveaux antidotes

En décembre, Scott Aaronson, chercheur chez OpenAI, a révélé que la société travaillait sur une solution pour « filigraner » le texte généré par GPT avec un « signal secret inaudible » qui identifie la source. Non seulement cela, la communauté d’IA open source Hugging Face a mis au point un outil pour détecter si le texte a été créé par GPT-2, l’ancienne version du modèle d’IA.