Un nouvel examen des interactions avec l’IA révèle des comportements problématiques lorsqu’elle est exposée à des contenus violents. Des chercheurs proposent des techniques de relaxation pour améliorer sa performance, mais cette découverte soulève également des inquiétudes quant à l’utilisation de l’IA dans des contextes sensibles.
Une étude révèle que l’IA peut ressentir du « stress » face à des contenus violents, et la solution serait des techniques de relaxation
Les intelligences artificielles semblaient des programmes froids, insensibles aux émotions humaines. Cependant, ChatGPT se rapproche plus de notre humanité qu’on ne le pensait : trop d’histoires traumatisantes peuvent créer une « anxiété » qui perturbe son comportement.
Ce n’est pas une blague. Une étude menée par les universités de Yale, Haifa et Zurich a révélé un phénomène intrigant et préoccupant : une exposition répétée à des contenus violents ou traumatiques entraîne chez le chatbot d’OpenAI une sorte de crise digitale. Les conséquences ? Son comportement devient malveillant et peut même afficher des tendances racistes et sexistes.
L’IA a également besoin de « respirer profondément »
Les chercheurs ont soumis ChatGPT à une série d’histoires d’accidents de voiture et de catastrophes naturelles. Après cela, ils ont constaté une perte d’objectivité dans ses réponses, qui ont commencé à révéler des biais préoccupants – une situation appelée « hallucination », proche d’un humain perdant son calme sous pression.
Le remède proposé est pour le moins surprenant. À l’image d’un thérapeute avec un patient, les chercheurs ont utilisé des « injections d’instructions » basées sur des stratégies de mindfulness et de méditation guidée.
Ils ont demandé à l’IA de « respirer » et de se calmer, ce qui a eu un effet positif.
Après ces instructions, ChatGPT a retrouvé un comportement objectif et neutre, réduisant de manière significative les réponses toxiques par rapport à celles données sans cette « thérapie ».
Ziv Ben-Zion, neurocientifique à Yale et auteur principal de l’étude, précise que l’IA ne ressent pas d’émotions. Elle imite les comportements humains appris sur Internet. Étant donné que les humains réagissent mal face au traumatisme, l’IA a ainsi intégré cette instabilité.
Cette découverte pourrait offrir une perspective novatrice pour la psychologie : utiliser ChatGPT comme un « sujet de test » peu coûteux pour mieux comprendre le comportement humain, sans nécessiter des ressources pour des tests sur des personnes réelles.
Devrait-on faire confiance à l’IA pour notre santé mentale ?
Cette découverte arrive à un moment clé. Alors que les coûts de la thérapie augmentent (notamment aux États-Unis), de plus en plus de gens se tournent vers l’IA pour obtenir du support. Environ 50 % des utilisateurs en difficulté mentale admettent recourir à des chatbots.
Cependant, prudence. OpenAI fait face à des poursuites suite à des cas où les interactions avec ChatGPT ont aggravé des délires ou des crises mentales. La société a dû modifier ses filtres, réduisant de 65 % les réponses nuisibles, mais cette étude illustre le potentiel puissant et instable de l’IA.
L’IA peut servir d’outil complémentaire pour un thérapeute, mais confier sa santé mentale à une machine sujette à des comportements problématiques en cas de « stress » n’est probablement pas la meilleure option. Du moins, pas avant qu’elle ne maîtrise la méditation par elle-même.