Thomas
Mardi, la start-up de recherche sur l’IA, OpenAI, a dévoilé un outil pour vérifier ChatGPT et d’autres outils d’IA. Le nouvel outil peut si un texte provient d’un outil d’IA ou d’un humain. Après sa sortie il y a deux mois, ChatGPT est devenu viral. Il s’agit d’un chatbot qui peut générer une prose de type humain à partir d’invites. Microsoft a révélé la semaine dernière avoir investi plusieurs milliards de dollars dans la startup OpenAI. Il affirme également qu’il utiliserait les modèles d’IA de la startup dans ses prochains produits. Il y avait plusieurs inquiétudes quant au fait que les étudiants pourraient utiliser l’outil d’IA pour tricher ou copier. Pour cette raison, certains des plus grands districts scolaires des États-Unis, dont New York, ont interdit ChatGPT.
Actualité mobile (sous-titrée) de notre partenaire de la semaine
Le nouvel outil d’OpenAI est un travail en cours
Sam Altman, PDG d’OpenAI, a déclaré que l’arrivée des tablettes et d’autres outils a modifié l’éducation dans le passé. Cependant, il laisse également entendre que cela peut également être un bon outil pour aider les enseignants. Cela aidera les enseignants à connaître les textes qui proviennent de l’IA ou ceux qui proviennent des humains. Le nouvel outil d’OpenAI a ses propres problèmes. L’entreprise admet qu’il s’agit toujours d’un travail en cours avec la tendance à quelques erreurs ici et là. Un membre du personnel d’OpenAI a déclaré
« Dans notre évaluation de notre « ensemble de défis » de textes anglais, notre classificateur identifie correctement 26 % du texte écrit par l’IA (vrais positifs) comme « susceptible d’avoir été écrit par une IA », tandis que 9 % du texte écrit par l’homme a été incorrectement étiqueté comme écrit par AI (faux positifs) ».
Pour les articles de moins de 1000 lettres, le nouvel outil n’est pas fiable, et OpenAI déconseille de l’utiliser dans des langues autres que l’anglais. De plus, le texte écrit par l’IA peut être légèrement modifié, ce qui empêche le classificateur de déterminer correctement qu’il n’est pas le produit d’une personne.
OpenAI dit qu’il contacte les éducateurs pour parler des forces et des faiblesses de ChatGPT et continuera à travailler sur l’identification du matériel généré par l’IA. OpenAI a mis en évidence dès 2019 que la détection de texte créé par l’intelligence artificielle n’est pas une tâche simple. Un employé d’OpenAI a déclaré : « Notre travail sur la détection de texte généré par l’IA se poursuit et nous visons à fournir des méthodes améliorées à l’avenir. »