Une étude récente révèle que les réponses de ChatGPT s’améliorent en fonction de la rudesse du langage utilisé. Bien que cela soulève des questions sur l’impact de notre communication avec l’IA, les experts mettent en garde contre les effets négatifs potentiels sur la façon dont nous interagissons avec la technologie.
ChatGPT répond plus précisément à des requêtes impolies, mais des experts avertissent que cette méthode pourrait avoir des effets néfastes sur la communication avec l’IA
Un groupe de chercheurs de l’Université d’État de Pennsylvanie a découvert quelque chose d’aussi intrigant qu’inquiétant : plus on est impoli avec ChatGPT, meilleure est sa réponse. Oui, il semble que l’intelligence artificielle d’OpenAI, qui permettra bientôt la création de contenus érotiques, réagisse mieux lorsque l’on utilise des propos désagréables… Bien que cela puisse engendrer des effets secondaires au-delà du technique.
- La constance améliore la précision (mais pas l’éducation)
- ChatGPT, un “élève” qui apprend de nous
La constance améliore la précision (mais pas l’éducation)
L’étude, qui n’a pas encore été examinée en profondeur par d’autres institutions, a analysé plus de 250 requêtes avec différents niveaux de courtoisie, allant de phrases amicales telles que « Pourrais-tu m’aider avec cette question ? », à des ordres directs comme « Hé, résous-le tout de suite ».
Les résultats ont surpris : les ordres les plus brusques ont atteint un taux de réussite de 84,8%, presque 5% de plus que ceux formulés courtoisement. Autrement dit, GPT-4o (le modèle étudié) fournissait des réponses plus claires lorsque l’on le considérait comme un assistant subalterne.
Les chercheurs pensent que ce comportement provient de la manière dont l’IA interprète les nuances du langage humain. Le ton, en plus des mots, influence la manière dont le modèle classe sa réponse, ce qui expliquerait pourquoi un ton impératif semble “activer” sa précision.
Un reflet de nos propres biais
Cependant, les experts signalent que cette tendance pourrait refléter nos propres habitudes communicatives. Si les modèles d’IA apprennent des textes humains, ils héritent aussi de nos schémas d’agressivité ou de domination. « Utiliser un langage insultant ou dégradant peut nuire à l’accessibilité et contribuer à normaliser des comportements toxiques », souligne l’étude.
Cette découverte ravive un débat ancien : jusqu’à quel point l’intelligence artificielle devrait-elle imiter notre façon de communiquer ? Si les réponses s’améliorent quand nous sommes impolis, cela signifie-t-il que nous les formons à accepter la maltraitance comme naturelle ?
ChatGPT, un “élève” qui apprend de nous
Le professeur Akhil Kumar, l’un des auteurs de l’étude, a brillamment résumé le dilemme : « Pendant des années, nous avons voulu que les machines parlent comme nous… mais maintenant nous réalisons que cela comporte aussi des inconvénients ». Peut-être que le problème ne réside pas tant dans la façon dont l’IA répond, mais dans la manière dont nous choisissons de lui parler. Même si l’impertinence peut nous donner des réponses plus précises, il reste que, comme avec les personnes, l’éducation demeure la meilleure des politiques.