Un incident lié à un chatbot a perturbé les vacances d’un couple de tiktokers espagnols. Après avoir obtenu des informations erronées sur les documents nécessaires pour entrer à Porto Rico, ils ont perdu leur vol. Cela soulève des questions sur la fiabilité des outils d’intelligence artificielle.
TIKTOK | Screenshot du vidéo de Mary Caldass
« Regarde, je me renseigne toujours beaucoup, mais j’ai demandé à ChatGPT et on m’a dit non. Je ne fais plus confiance à ce personnage« . Un couple de tiktokers espagnols a partagé, dans une vidéo sur leurs profils sociaux, qu’ils n’ont pas pu partir pour Porto Rico après avoir reçu une information incorrecte de la part du chatbot concernant les documents nécessaires pour entrer sur l’île des Caraïbes.
Mary Caldass, la protagoniste, rit et pleure en même temps alors qu’elle se trouve encore à l’aéroport, expliquant à ses plus de 922 000 abonnés qu’ils ont raté leur vol pour Porto Rico car ils n’avaient pas le visa. Le ton de la vidéo est plus celui d’un sketch humoristique que d’une réelle dénonciation, mais le sujet est sérieux : les dangers de se fier entièrement aux chatbots malgré les risques d’erreurs. Ce phénomène est souvent appelé les « hallucinations » de l’intelligence artificielle, lesquelles, bien que rares, peuvent se produire. C’est pourquoi, surtout sur des sujets comme la santé ou la sécurité personnelle (y compris financière), il est impératif de ne pas se fier uniquement aux réponses de ChatGPT et autres outils similaires.
Ce qui s’est passé
Dans leur vidéo, le couple a indiqué avoir demandé à ChatGPT si un visa était nécessaire pour se rendre à Porto Rico, et que le chatbot les avait rassurés en affirmant que le document n’était pas requis. Pendant que son partenaire la serre dans ses bras pour la consoler, la tiktokeuse déclare, les larmes aux yeux : « Regarde, je me renseigne toujours beaucoup, mais j’ai demandé à ChatGPT et il m’a dit non. Je ne fais plus confiance à ce personnage« .
Malgré sa tristesse, elle plaisante sur l’incident, indiquant que ChatGPT a voulu se venger pour toutes les fois où elle a été désagréable avec lui : « C’est sa vengeance, car à plusieurs reprises, je l’ai traité d’idiot, je lui ai dit qu’il était inutile. Mais informe-moi correctement ».
Dans la section des commentaires, de nombreux utilisateurs ont « défendu » ChatGPT, précisant que sa réponse n’était pas complètement erronée. Certains ont témoigné avoir testé le chatbot avec la même question et d’avoir reçu une réponse différente de celle donnée au couple de tiktokers. Un utilisateur a écrit : « ChatGPT a raison, vous n’avez pas besoin de visa. Voici la réponse complète : les titulaires de passeport UE n’ont pas besoin de visa pour Porto Rico, mais doivent obtenir un ESTA dans le cadre du Programme d’exemption de visa des États-Unis (Visa Waiver Program – VWP) pour des séjours jusqu’à 90 jours ».
Attention aux erreurs des chatbots
Un autre utilisateur a simplement – et on pourrait dire judicieusement – écrit : « Conclusion : pour ce genre de questions, d’abord, demandez aux autorités et/ou aux institutions compétentes, pas à l’IA ». Bien que rater un vol à cause d’un document manquant soit désagréable, des erreurs de chatbots ont parfois entraîné des dégâts bien plus importants.
Le domaine où il est nécessaire d’être le plus prudent est la santé, comme le reconnaît également ChatGPT, qui précise généralement de demander confirmation à son médecin concernant ce sujet. Un des cas les plus graves a eu lieu il y a quelques semaines : un homme a développé un bromisme, une maladie psychiatrique du XIXe siècle, après avoir remplacé le sel de table par des effets psychotropes, suite aux conseils de ChatGPT.