Cela montre les grands problèmes auxquels la production scientifique mondiale est confrontée
Le monde universitaire a été secoué par un nouvel incident où la valeur d’un article scientifique a été remise en question par une image créée par intelligence artificielle. Cependant, il est également important de noter que la revue qui dispose d’un système de relecture par des pairs ne s’est pas rendu compte que cette image n’avait aucun sens du tout. L’image en question avait été créée à l’aide de Midjourney. C’est pourquoi nous allons essayer de mieux comprendre le phénomène qui s’est produit et pourquoi il pourrait devenir un problème endémique de l’industrie des articles scientifiques.
Un pas en arrière dans la production scientifique à cause de l’IA
Le problème de la fraude des IA est tel qu’on crée des IA pour en arrêter d’autres. Les fraudes dans le monde économique et du travail se soldent chaque jour par des pertes de millions d’euros en raison de la technique du deepfake, mais dans le monde scientifique, cela a des conséquences très différentes.
Une revue scientifique assez connue (Frontiers in Cell and Developmental Biology) a été contrainte de retirer un article après avoir découvert qu’il incluait une image générée par intelligence artificielle d’un rat avec des organes génitaux disproportionnément grands, accompagnée de texte contenant des mots totalement inventés.
Les auteurs de l’étude, affiliés à l’Université Jiaotong de Xi’an, ont ouvertement admis avoir utilisé MidJourney, un outil d’IA, pour créer cette image, comme l’a révélé le docteur C. J. Houldcroft sur X
Erm, how did Figure 1 get past a peer reviewer?! https://t.co/pAkRmfuVed H/T @aero_anna pic.twitter.com/iXpZ1FvM1G
— Dr CJ Houldcroft 🕷️ (@DrCJ_Houldcroft) 15 février 2024
Erm… Comment la Figure 1 a-t-elle pu passer la révision par les pairs ?
Bien que la revue en question n’interdise pas explicitement l’utilisation d’outils d’IA pour générer du contenu, cet incident viole clairement les normes de rigueur et de sérieux auxquelles on pourrait s’attendre dans une publication scientifique.
Ce cas met en évidence non seulement la facilité avec laquelle le contenu généré par IA peut tromper les processus de révision par les pairs qui sont, en théorie, rigoureux et inébranlables, mais il soulève également les importants problèmes de transparence auxquels sont confrontés ces médias à l’ère numérique. Cela est dû au fait que l’image est clairement créée par IA et n’a aucun sens, ce qui signifie que les relecteurs n’ont pas prêté l’attention nécessaire au processus de correction.
Des revues prestigieuses telles que Nature et Science ont déjà pris des mesures pour prévenir la publication de contenu généré par IA, reconnaissant les risques et les controverses associés, y compris la violation des droits d’auteur. Cela ne signifie pas que les applications pour créer des images ne sont pas utiles, mais elles posent derrière elles toute une série de questions qui doivent être examinées afin de répondre activement à toutes les parties impliquées dans le processus d’apprentissage.
Révision par les pairs en aveugle : un système qui a besoin de révision
La production scientifique dans des revues spécialisées est un phénomène qui existe depuis plusieurs siècles. Au fil des ans, le processus de révision s’est amélioré, avec différentes méthodes.
Cependant, la révision par les pairs en aveugle a été considérée comme l’une des plus efficaces, bien qu’elle ne soit jamais exempte de controverses. Ce type de révision consiste en ce que des experts dans le même domaine que les auteurs de l’article à publier évaluent la valeur de l’article sans connaître l’identité des auteurs, avant de le publier dans des revues du monde entier.
Ce modèle, en théorie parfait, a parfois connu des problèmes évidents : des relecteurs qui ne lisaient pas leurs articles, du favoritisme et bien sûr, des plagiat et des articles fabriquées par des assistants et des doctorants plutôt que par l’auteur crédité de l’article.
Au fond, le monde scientifique n’est pas exempt des mêmes problèmes que les autres environnements de travail, car il implique des êtres humains ayant des intérêts très spécifiques. Cependant, la fraude s’est intensifiée ces dernières années et on parle déjà d’une véritable crise à cet égard.
En résumé, voici les points suivants :
- Une revue scientifique a dû retirer un article qui incluait une image générée par IA d’un rat avec des organes génitaux gigantesques et des mots totalement inventés.
- Les auteurs, de l’Université Jiaotong de Xi’an, ont reconnu ouvertement avoir utilisé MidJourney pour créer cette image.
- La revue n’interdit pas explicitement l’utilisation d’outils d’IA pour générer des informations, mais elle enfreint évidemment la rigueur qu’une revue scientifique devrait avoir.
- Dans de nombreux cas, cela peut créer un précédent dangereux, mais remet surtout en question comment quelque chose comme cela a pu passer le processus de révision par les pairs qui est censé être si rigoureux dans les revues de production scientifique.
- Certaines revues importantes, telles que Nature et Science, prennent des précautions pour prévenir la publication de contenu généré par IA.
- Les IA sont très controversées en raison de problèmes tels que la violation des droits d’auteur.
- Cela pose un problème délicat en ce qui concerne l’utilisation de l’intelligence artificielle pour la production scientifique.