ChatGPT, désormais capable de générer des tickets de caisse réalistes, pourrait être détourné par des utilisateurs malveillants pour produire de fausses preuves d’achat. Avec des mises à jour récentes, l’IA a amélioré la qualité du texte, rendant ces faux documents presque indiscernables des authentiques.
Lorsque ChatGPT n’est pas utilisé pour créer ces images inspirées de Studio Ghibli qui inondent vos threads d’actualité, il peut également servir à générer de faux reçus. Ce chatbot IA a atteint un niveau de compréhension et de production de texte dans les images qui permet aux utilisateurs astucieux de créer des tickets de caisse qui peuvent passer pour de véritables preuves d’achat.
Jusqu’à récemment, les images générées par l’IA présentaient une faiblesse notable : un texte souvent illisible ou incohérent. Beaucoup de modèles ont réussi à corriger des problèmes comme des mains mal formées, mais le texte continuait à poser des difficultés. Cela évolue rapidement.
Par exemple, grâce à la dernière mise à jour du modèle 4o de génération d’images de ChatGPT, les utilisateurs peuvent produire des reçus avec une mise en page quasi parfaite, comprenant des listes d’articles et même des logos d’apparence réaliste. Ils ne sont pas encore entièrement irréprochables et peuvent paraître un peu trop nets, afficher des espacements étranges ou comporter des erreurs de calcul.
Je pense que dans l’image d’origine, les lettres sont trop parfaites et ne s’adaptent pas au papier. Elles semblent flotter au-dessus du papier. Voici ma tentative pour rendre cela plus réaliste. Dites-moi ce que vous en pensez. pic.twitter.com/EixRSHubeY
– Michael Gofman (@michaelgofman) 29 mars 2025
Cependant, les reçus, en particulier ceux de petits montants, ne sont pas souvent examinés de près. Quelques retouches supplémentaires dans Photoshop, comme l’ajout de taches, pourraient facilement tromper un employeur. La motivation pour les escrocs est évidente. Ils n’auraient qu’à passer quelques minutes avec ChatGPT et Photoshop, et même si ce stratagème fonctionne seulement de temps à autre, c’est une méthode à faible investissement et à forte récompense.
Actuellement, la méthode la plus efficace pourrait consister à fournir un reçu existant à ChatGPT et à modifier des détails comme les prix ou les dates. Mais avec l’amélioration de la technologie, des reçus entièrement fabriqués pourraient devenir indiscernables des véritables.
On pourrait penser que cela susciterait des inquiétudes au sein d’OpenAI, mais bien que la société reconnaisse le risque, elle ne semble pas encore alarmée. Un porte-parole a expliqué à TechRadar qu’ils surveillent la génération d’images, que ce soit sur ou en dehors de leur plateforme, utilisent des outils internes pour vérifier le contenu créé par l’IA et prennent des mesures en cas de violations de la politique d’utilisation.
Fait intéressant, OpenAI perçoit également un aspect positif à cette capacité. Taya Christianson, porte-parole, a suggéré à TechCrunch que des reçus falsifiés pourraient servir à l’éducation financière, en enseignant aux personnes comment suivre leurs dépenses ou repérer des fraudes dans un cadre contrôlé.
Néanmoins, on peut se demander si cette capacité est globalement bénéfique pour la société.