L’utilisation croissante des chatbots d’intelligence artificielle dans le secteur médical soulève des questions essentielles sur leur impact et leur fiabilité. Une récente étude révèle que de nombreux médecins de famille britanniques recourent à ces outils pour diverses tâches, y compris la rédaction de prescriptions, tout en mettant en lumière les enjeux de confidentialité associés.
Une recherche publiée dans la revue BMJ Health and Care Informatics a révélé qu’au Royaume-Unis, un médecin généraliste sur cinq a utilisé un chatbot d’intelligence artificielle dans le cadre de son travail. D’après les données, il semblerait que les intelligences artificielles soient surtout utilisées pour des tâches routinières. Mais cela n’exclut pas les problèmes, notamment en ce qui concerne la confidentialité.
Et si votre prochaine ordonnance médicale était rédigée par une intelligence artificielle (IA) ? Cela fait déjà longtemps que nous discutons de la manière dont les grands modèles de langage vont être appliqués dans divers domaines, y compris la santé. Cela se produit déjà en partie. En effet, une étude publiée dans la revue BMJ Health and Care Informatics a révélé qu’un médecin généraliste sur cinq utilise l’intelligence artificielle pour rédiger des ordonnances aux patients ou évaluer des thérapies ou des diagnostics alternatifs.
Le sondage a impliqué 1 006 médecins généralistes au Royaume-Unis, à qui l’on a demandé s’ils avaient déjà utilisé un chatbot IA, tel que ChatGPT, Bing AI ou Gemini de Google. Un sur cinq a confirmé. Près d’un tiers (29%) a utilisé l’IA pour la documentation après les rendez-vous avec les patients, tandis que 28% l’ont utilisée comme outil pour suggérer un diagnostic différent.
Selon les chercheurs, « les médecins généralistes peuvent tirer des avantages de ces outils, notamment pour ce qui est des tâches administratives et pour soutenir le traitement clinique ». Reste cependant une grande question ouverte, celle de la confidentialité. En effet, les médecins pourraient saisir des informations sensibles des patients, telles que des données de santé, et « il n’est pas clair comment les entreprises derrière l’intelligence artificielle générative utilisent les informations qu’elles collectent ».
Ils ont ajouté : « Bien que ces chatbots soient de plus en plus au centre des efforts réglementaires, il n’est pas encore clair comment la législation agira de manière pratique avec ces outils dans la pratique clinique ». De plus, l’intelligence artificielle n’est pas à jour et pourrait également commettre des erreurs. Les « biais des algorithmes » pourraient mener à des diagnostics erronés.
Quels sont les risques d’utiliser l’IA dans le domaine médical
Selon Ellie Mein, conseillère médico-légale auprès de la Medical Defence Union, la confidentialité ne serait pas le seul problème. « Il est naturel que les professionnels de la santé veuillent trouver des moyens de travailler plus intelligemment face aux pressions qu’ils affrontent », a-t-elle expliqué au Guardian. « En plus des usages identifiés dans le document du BMJ, nous avons découvert que certains médecins se tournent vers des programmes d’intelligence artificielle pour les aider à rédiger les réponses aux plaintes. Nous avons mis en garde les membres de MDU sur les problèmes potentiels, parmi lesquels l’inaexactitude et la confidentialité des patients. Il y a aussi des considérations sur la protection des données ».
« Lorsqu’il s’agit des plaintes des patients, les réponses élaborées par l’IA peuvent sembler crédibles, mais peuvent contenir des inexactitudes et se référer à des directives erronées qui peuvent être difficiles à repérer si elles sont intégrées dans des passages textuels très éloquents. Il est essentiel que les médecins utilisent l’IA de manière éthique et respectent les directives et réglementations pertinentes. Il est clair que c’est un domaine en évolution et nous sommes d’accord avec les auteurs sur le fait que les médecins actuels et futurs ont besoin d’une meilleure sensibilisation aux avantages et aux risques de l’utilisation de l’IA sur le terrain ».
Les précédents de ChatGPT
La Federal Trade Commission, agence gouvernementale américaine pour la protection des consommateurs, a déjà enquêté sur OpenAI. La société mère de ChatGPT pourrait en effet violer les lois sur la protection des consommateurs, « mettant en danger les données personnelles et la réputation des individus ».
De plus, le Garante de la Privacy avait décidé dès mars 2023 de bloquer ChatGPT en Italie pendant un mois. Selon les déclarations du Garante, le logiciel collectait des données personnelles sans aucune justification et n’avait aucun système pour vérifier l’âge des utilisateurs. Selon Kamila Hawthorne, présidente du Royal College of GPs, « l’IA ne pourra jamais être considérée comme un substitut à l’expertise d’un professionnel médical qualifié. Il est essentiel qu’elle soit mise en œuvre avec soin et régulée strictement dans l’intérêt de la sécurité du patient ».