Un cas social sur des vidéos manipulées a conduit des familles malaisiennes à se rendre à un site touristique fictif, mettant en lumière les dangers de l’intelligence artificielle. Cet incident soulève des questions sur la véracité du contenu en ligne et les risques liés à la désinformation.
Une vidéo générée par intelligence artificielle a conduit plusieurs familles malaisiennes à voyager vers une destination touristique qui n’existe pas
Au fil des jours, les avancées technologiques impressionnent, offrant de plus en plus d’outils pour réaliser des créations auparavant inimaginables. Bien que ces ressources soient extraordinaires, il arrive qu’elles soient utilisées pour créer de la confusion, entraînant des escroqueries sur Internet.
C’est exactement ce qui s’est produit en Malaisie. Un simple clip touristique s’est transformé en cauchemar pour un couple âgé qui a parcouru plus de 370 kilomètres depuis Kuala Lumpur jusqu’à Kuak Hulu, persuadé de vivre une expérience mémorable.
Cette expérience supposait un passe-temps dans un téléphérique au milieu de paysages montagneux, des repas avec vue panoramique et même un zoo de cerfs. En réalité, il s’agissait d’une illusion générée par intelligence artificielle.
La vidéo, produite par une chaîne YouTube nommée “TV Rakyat”, imitait parfaitement un reportage authentique. La présentatrice (créée par IA) faisait découvrir le prétendu téléphérique, interviewait des touristes et décrivait même les plats du restaurant. La crédibilité de cette production a convaincu le couple d’effectuer le trajet. Pourtant, en arrivant sur place et en se renseignant sur l’attraction, ils ont dû faire face à la réalité : tout avait été créé numériquement, probablement à l’aide d’outils comme Google Veo 3.
L’intelligence artificielle génère des vidéos si réalistes qu’il est difficile de les distinguer de la réalité
Le personnel de l’hôtel où séjournaient les personnes âgées se souvient du moment où elle a dû leur expliquer que la vidéo était fausse. « Ils étaient convaincus que c’était réel. Lorsque je leur ai dit que la journaliste était aussi une création par IA, ils n’en revenaient pas », a-t-elle déclaré à des médias locaux.
De plus, ce cas n’est pas isolé. Un autre utilisateur a signalé sur les réseaux sociaux que ses parents avaient dépensé plus de 2000 euros pour louer une fourgonnette afin de faire le même voyage, eux aussi trompés par la vidéo virale, qui a été supprimée après le scandale.
Ce type d’escroquerie soulève un débat urgent sur les risques liés au contenu généré par intelligence artificielle. Bien que ces outils permettent de produire des vidéos impressionnantes et créatives, ils peuvent également être utilisés pour désinformer, surtout lorsque la frontière entre le réel et le fictif devient floue.
Face à ce type de situations, on pourrait dire que la théorie de l’Internet mort prend de l’ampleur, puisque de nos jours, les vidéos générées par IA sont omniprésentes sur TikTok, YouTube et Facebook.
La solution ? Certains experts estiment qu’une réglementation claire, un étiquetage obligatoire et une éducation numérique seraient nécessaires pour que les utilisateurs (notamment les personnes âgées) puissent identifier le contenu faux. Aujourd’hui encore, un lieu touristique qui semble idyllique peut ne pas exister, et si nous ne pouvons pas distinguer le réel de l’irréel, nous risquons d’être trompés sans le savoir.