Christophe G.
L’IA chatbot de Snapchat a suscité un mélange d’inquiétude et d’amusement hier, lorsqu’il a apparemment déraillé. Plusieurs utilisateurs ont signalé qu’il avait créé une vidéo de leur mur et de leur plafond, publié une histoire en direct, puis arrêté de répondre lorsqu’on lui a demandé s’il était devenu conscient …
Snapchat a lancé son propre chatbot alimenté par ChatGPT en février. La société avait prévenu à l’époque qu’il ne fallait pas lui faire confiance, que ce soit pour fournir des informations précises ou pour garder des secrets.
Bien que Mon IA soit conçu pour éviter les informations biaisées, incorrectes, nocives ou trompeuses, des erreurs peuvent se produire […] Comme tous les chatbots alimentés par l’IA, Mon IA est sujet à des hallucinations et peut être trompé pour dire à peu près n’importe quoi. Veuillez prendre conscience de ses nombreuses lacunes et désolé d’avance!
Toutes les conversations avec Mon IA seront restaurées et pourront être revues afin d’améliorer l’expérience du produit. Veuillez ne pas partager de secrets avec Mon IA et ne pas compter sur elle pour des conseils.
Mais hier, les choses semblent avoir atteint un nouveau niveau, comme le rapporte CNN.
Les utilisateurs de Snapchat ont été alarmés mardi soir lorsque l’IA chatbot de la plateforme a publié une mise à jour en direct sur son profil […]
Publier une Story en direct (une courte vidéo d’un mur apparemment) pour que tous les utilisateurs de Snapchat puissent la voir était une nouveauté : c’est une fonctionnalité normalement réservée à ses utilisateurs humains.
Les adeptes de l’application ont rapidement fait part de leurs inquiétudes sur les réseaux sociaux. « Pourquoi Mon IA a-t-elle une vidéo du mur et du plafond de leur maison en tant que story ? » a écrit un utilisateur. « C’est très étrange et honnêtement perturbant. » Un autre utilisateur a écrit après que l’outil a ignoré ses messages : « Même un robot n’a pas le temps pour moi. »
Plusieurs utilisateurs ont posté des exemples sur le réseau social autrefois connu sous le nom de Twitter.
Un tweet amusant montrait l’utilisateur de Snapchat demandant pourquoi le chatbot avait posté une histoire. L’IA a répondu qu’elle avait rencontré un problème technique. Lorsqu’on lui a demandé si elle était devenue consciente, Mon IA a arrêté de répondre.
TechCrunch note que les utilisateurs de Twitter X se sont amusés avec cette idée.
i think i’ve seen this film before… and i didn’t like the ending….
– viviana (fan) (@repmiIas) 16 août 2023
Snap a confirmé le problème, mais a déclaré qu’aucune conscience n’était impliquée.
Snap a confirmé que le problème, qui a été rapidement résolu hier soir, était simplement un bug. (Et Mon IA ne prenait pas de photos de votre pièce, au fait.)
« Mon IA a connu une interruption temporaire, qui est maintenant résolue », a déclaré un porte-parole à TechCrunch.
Image: Alex Knight/Unsplash
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
