Une récente enquête a mis en lumière des erreurs dans les conseils médicaux fournis par Google AI Overview, soulevant des inquiétudes quant à l’exactitude des informations. Après des critiques, Google a commencé à retirer certaines recommandations considérées comme inappropriées, notamment celles relatives aux tests de la fonction hépatique.
Le 2 janvier, le quotidien britannique The Guardian a publié une enquête sur les conseils médicaux d’AI Overview, la fonctionnalité de Google lancée en mars, qui propose un résumé de nos recherches. Ce texte court qui apparaît avant la liste des liens lors d’une recherche est désormais remis en question. Neuf jours après cette enquête, certaines réponses fournies par Google dans le domaine médical ont disparu.
Les analyses. Les journalistes de The Guardian ont contrôlé divers conseils médicaux. Ils ont identifié des cas où les recommandations contradisaient littéralement les directives médicales.
Par exemple, Google aurait conseillé aux personnes atteintes de cancer du pancréas d’éviter les aliments riches en graisses. De plus, des informations erronées ont été données sur la façon de lire les résultats des tests hépatiques. D’autres erreurs ont concerné des tests de dépistage du cancer, risquant de minimiser les symptômes chez les patients.
L’intelligence artificielle en tant que médecin de référence
Ces erreurs peuvent devenir problématiques, surtout dans le contexte actuel. Obtenir des informations médicales par le biais de l’intelligence artificielle est de plus en plus accessible. Avec AI Overview, il est possible d’obtenir des réponses succinctes à des questions médicales complexes, tandis que sur Gemini, les utilisateurs peuvent directement télécharger leurs résultats d’analyse pour demander des conseils.
ChatGPT a également évolué en lançant une version dédiée à l’analyse des données sanitaires, nommée ChatGPT Health, le 7 janvier. OpenAI, la société derrière ChatGPT, a déclaré avoir collaboré avec 260 médecins de 60 pays afin d’améliorer les retours fournis par l’IA.
La décision de Google : retrait des conseils contestés
Dans un nouvel article publié le dimanche 11 janvier, The Guardian a rapporté que Google a commencé à retirer certains conseils médicaux jugés inappropriés. Parmi eux, les résultats de Google AI relatifs à deux requêtes spécifiques : “Quels sont les niveaux normaux des tests de la fonction hépatique” et “quels sont les niveaux normaux pour les tests sanguins du foie” ont été supprimés.
Un porte-parole de Google a déclaré à The Guardian après la suppression : “Nous ne commentons pas les suppressions individuelles dans les résultats de recherche. Dans les cas où les réponses d’AI Overview manquent de contexte suffisant, nous travaillons à des améliorations généralisées en nous basant sur nos politiques.”