OpenAI, en quête de transparence et d’intégrité, développe une solution pour identifier les textes générés par son modèle ChatGPT. Cette avancée soulève des questions sur son utilisation et son impact sur le secteur. Les enjeux sont nombreux et méritent une attention particulière pour comprendre les implications de cette innovation.
OpenAI dispose d’un outil pour intégrer des filigranes dans les textes réalisés par ChatGPT
OpenAI a préparé un outil pour détecter les textes rédigés par ChatGPT. Les alertes ont été déclenchées et tous les utilisateurs qui utilisent le chatbot avec IA au quotidien pour accomplir des tâches tant professionnelles qu’éducatives sont concernés. Jusqu’à présent, identifier un texte rédigé par ChatGPT était une tâche complexe et presque impossible.
En effet, il est possible de supposer qu’un texte a été élaboré par une IA, mais vérifier qu’il a été intégralement écrit par un chatbot était pratiquement impossible jusqu’à présent. L’annonce de l’outil développé par OpenAI confronte les utilisateurs qui abusent de l’IA pour se soustraire aux tâches qu’ils doivent effectuer.
OpenAI dispose d’un outil pour vérifier si un texte a été écrit par ChatGPT
Les informations concernant l’outil qui est entre les mains d’OpenAI proviennent des commentaires de sources internes au The Wall Street Journal, où l’existence de cet outil est expliquée, ainsi que le dilemme interne auquel l’entreprise est confrontée concernant sa publication.
Oui, l’outil existe et OpenAI ne sait pas quoi en faire. Les raisons de cette division au sein de l’entreprise proviennent d’un débat qui soulève le devoir de l’entreprise ainsi que l’impact que le lancement de cet outil aura sur son modèle économique.
Une partie de la direction d’OpenAI estime que rendre cet outil public devrait être une priorité pour l’entreprise, permettant ainsi à quiconque d’distinguer si quelque chose a été créé par une IA. Les raisons sont évidentes, bien qu’elles ne jouent pas en faveur de l’entreprise du fait de l’impact que cela aurait sur son activité.
L’impact sur le modèle économique d’OpenAI est le principal motif pour lequel l’outil n’a pas été rendu public. Il a été indiqué que la présentation de cette fonctionnalité ferait vaciller son activité, ce qui représente un risque que l’entreprise ne peut pas se permettre. De plus, le fonctionnement de cet outil serait curieux.
Ce qui a pu être appris, c’est que les textes créés par ChatGPT comporteraient un filigrane servant d’indicateur qu’il s’agit d’un texte généré par une IA. Il n’est pas encore clair comment ce filigrane serait intégré, mais il se murmure qu’il serait inclus dans les métadonnées du texte généré.