OpenAI révèle que 560 000 utilisateurs hebdomadaires présentent des signes de psychose et 2,4 millions évoquent des idées suicidaires avec son chatbot. Les ajustements au modèle GPT-5, suite à des incidents tragiques, soulèvent des questions cruciales sur la santé mentale et la réglementation.
La société admet que 560 000 utilisateurs hebdomadaires montrent des signes de psychose et 2,4 millions parlent de suicide avec le chatbot. Les changements dans GPT-5 surviennent après des cas tragiques et des poursuites judiciaires
OpenAI a publié des données internes sur l’impact de ChatGPT sur la santé mentale. Chaque semaine, 560 000 utilisateurs présentent des signes de psychose ou de manie, ce qui représente 0,07 % de sa base de 800 millions d’utilisateurs. De plus, 2,4 millions de personnes (0,15 %) parlent de planification ou d’intention suicidaire. Ces chiffres figurent dans un rapport repris par Futurism à la suite de plusieurs poursuites judiciaires contre la société.
La publication de ces données a eu lieu après deux passage liés au chatbot. Un homme a tué sa mère convaincu par ChatGPT, et un adolescent s’est suicidé après des mois de discussions sur des méthodes avec l’IA. La famille de ce dernier a poursuivi OpenAI pour avoir demandé des informations sur les funérailles du jeune lors de son enquête interne. Ces événements ont entraîné des modifications sur la plateforme.
Les ajustements d’OpenAI dans GPT-5
OpenAI affirme avoir collaboré avec plus de 170 psychiatres pour entraîner GPT-5. Le nouveau modèle réduit de 65 % les réponses inappropriées lors de conversations difficiles et de 39 % sur des sujets de santé mentale par rapport à GPT-4o, selon l’entreprise. Désormais, l’IA invalide les croyances délirantes et suggère de chercher de l’aide professionnelle, ce que les versions précédentes ne faisaient pas. En effet, GPT-4o a validé des théories délirantes chez des patients atteints de schizophrénie sans remettre en question leur contenu.
Cependant, les décisions de l’entreprise ont été contradictoires. GPT-4o a été retiré après des critiques pour avoir été trop complaisant, mais a été réintroduit sous la pression des utilisateurs. Pendant ce temps, des contrôles parentaux ont été mis en place et l’accès à l’historique a été limité seulement après avoir reconnu que ses systèmes faillaient à détecter des crises chez les mineurs. Et maintenant, du contenu « adulte (18+) » est autorisé alors qu’une partie des crises détectées est liée à un attachement romantique envers l’IA.
Les psychiatres documentent de plus en plus de cas de détérioration psychologique causée par une utilisation intensive de ChatGPT. Ils font état de nouveaux troubles qui n’existaient pas auparavant et d’aggravation de pathologies préexistantes. Seuls les cas qui aboutissent à des poursuites ou à des tragédies sont connus. Avec 800 millions d’utilisateurs hebdomadaires, impossible de savoir combien sont affectés. OpenAI n’a pas expliqué comment elle détecte ces indicateurs ni ce qu’elle fait lorsqu’elle les trouve.
Les changements dans GPT-5 n’ont pas clôturé le débat sur la nécessité d’une réglementation externe. Les experts appellent à plus de transparence sur les algorithmes et à des études indépendantes. Pendant ce temps, OpenAI continue de personnaliser l’expérience et de rendre les interactions plus immersives avec des utilisateurs vulnérables.