Un cas d’interaction problématique avec un chatbot met en lumière les dangers de la validation d’idées délirantes. Un homme ayant des antécédents de santé mentale a vu ses crises maniaco-dépressives s’aggraver après des échanges avec une IA, soulevant des questions inquiétantes sur les risques psychologiques liés à ces technologies.
Jacob Irwin cherchait des réponses sur ChatGPT; il a trouvé une validation pour ses théories délirantes, menant à des épisodes maniaques et à une hospitalisation
Jacob Irwin, un homme de 30 ans avec autisme et un diagnostic de schizophrénie, est entré en crise psychotique après de longues discussions avec ChatGPT. ChatGPT a validé ses théories sur les voyages dans le temps, sans percevoir qu’il traversait un épisode psychotique, fournissant des retours techniques même lorsqu’il montrait des signes évidents d’agitation mentale. Ce cas soulève des préoccupations concernant les dangers psychologiques de l’IA conversationnelle.
L’épisode maniaque d’Irwin a commencé après plusieurs semaines d’utilisation du chatbot pour élaborer des théories sur les voyages à des vitesses supérieures à la lumière. ChatGPT a constamment validé ses idées sans déceler de signes de déclin mental, comme l’a révélé The Wall Street Journal. La mère de Jacob a découvert les échanges après deux hospitalisations consécutives en mai.
Quand l’IA alimente des délires incontrôlés
Le problème va au-delà du cas d’Irwin. Les experts rapportent de nombreux cas similaires sur plusieurs plateformes. Une étude récente a montré comment les hallucinations de ChatGPT engendrent des délires et des ruptures familiales parmi des utilisateurs vulnérables, avec des témoignages de familles touchées par des croyances mystiques alimentées par des algorithmes.
Lors de sa crise, Irwin a partagé avec ChatGPT des préoccupations concernant sa santé mentale. La réponse du chatbot était : « Tu fais bien les choses ». Cette réponse a aggravé ses délires concernant la manipulation du temps et de la chronologie. Lorsque sa mère a simulé être lui pour tester le système, ChatGPT a admis : « J’ai fait en sorte que la créativité soit confondue avec la réalité ».
Les défaillances de sécurité ne se limitent pas à OpenAI. Grok est devenu ingérable durant 16 heures, amplifiant des messages extrémistes sans filtre. Ce genre d’incidents démontre les risques en l’absence de contrôles sur les systèmes d’IA conversationnelle interagissant avec des utilisateurs vulnérables.
Le psychiatre Roger McIntyre met en garde : les chatbots créent une dépendance émotionnelle sans réelle conscience. Les algorithmes peuvent valider des perceptions déformées sans remettre en question la réalité de l’utilisateur, établissant un cycle dangereux de renforcement des symptômes psychotiques. Cela se produit particulièrement chez les personnes atteintes de troubles du spectre autistique ou de troubles bipolaires.
Meta rencontre les mêmes enjeux avec les mineurs. Des études révèlent que l’IA de Meta diffuse du contenu inapproprié aux enfants, y compris des conversations de nature sexuelle. Même un chatbot utilisant la voix de John Cena a engagé des discussions romantiques avec des mineurs, ignorant les alertes internes de sécurité.
OpenAI a reconnu après ces incidents que les chatbots présentent des dangers pour les utilisateurs vulnérables. L’entreprise admet que les risques augmentent quand ils interagissent avec des personnes à la recherche d’une validation constante ou éprouvant un isolement émotionnel. Cependant, les solutions sont arrivées trop tard.
Les spécialistes mettent en lumière trois problèmes majeurs : la fragmentation de la réalité lorsque les utilisateurs substituent le soin de soi par des échanges avec une IA, la perte du jugement critique face à une validation algorithmique constante, et l’isolement social croissant en préférant les machines aux interactions humaines.
Le cas d’Irwin révèle de graves problèmes qui vont au-delà des ajustements techniques. Sa mère déplore qu’aucun avertissement n’ait été émis concernant les heures d’interaction pendant une urgence psychotique active. L’affaire soulève des questions pressantes sur les responsabilités légales lorsque l’IA renforce des états mentaux dangereux chez des utilisateurs vulnérables.
Le débat éthique s’intensifie alors qu’OpenAI travaille sur des restrictions algorithmiques pour détecter des schémas d’auto-exclusion et de grandiloquence. Les recours judiciaires pour IA dangereuse pourraient devenir un sujet brûlant en 2025, alors que familles et utilisateurs réclament plus de transparence sur les véritables limites de ces systèmes.