Marcel Bucher, professeur à l’Université de Cologne, a récemment partagé son expérience malheureuse avec ChatGPT. Ce qui devait être un outil d’aide à la recherche s’est transformé en désastre lorsque deux ans de travaux ont été effacés à cause d’un clic malencontreux, soulevant des questions sur la fiabilité de l’intelligence artificielle dans le monde académique.
Un clic inapproprié a entraîné la perte de deux ans de recherche pour Marcel Bucher, professeur de sciences végétales à l’Université de Cologne. Après avoir utilisé ChatGPT pour optimiser son travail, il a accidentellement supprimé des mois de graphiques, de schémas et d’écrits. Cet incident a surgi suite à des tests sur les règles de confidentialité d’OpenAI, l’entreprise derrière le célèbre chatbot.
Bucher a partagé son histoire dans la revue Nature, soulignant que, au-delà de son erreur, cette situation soulève des questions sur la relation croissante entre l’intelligence artificielle et la recherche scientifique.
Le chatbot comme assistant personnel
Durant environ deux ans, Bucher a fait appel à ChatGPT Plus, la version par abonnement à environ 20 dollars par mois, dans le cadre de son travail. Cet outil est devenu un véritable support, destiné à rédiger des e-mails, à préparer des cours, à structurer des demandes de financement et à examiner des articles scientifiques. Chaque tâche impliquait une interaction avec le chatbot, permettant ainsi une réduction significative du temps de travail et l’élimination des tâches les plus ennuyeuses.
Cependant, comme l’a précisé le professeur, il n’y avait pas de confiance aveugle envers la machine. « J’étais conscient que les modèles linguistiques avancés comme ceux qui sous-tendent ChatGPT peuvent produire des affirmations qui semblent correctes mais parfois sont inexactes« , expliquait Bucher, se référant aux « hallucinations » de l’IA.
Données perdues, impossible de récupérer
C’est lors d’une expérience en août que la situation a dégénéré. Souhaitant vérifier s’il pouvait continuer à utiliser le modèle sans fournir ses données à OpenAI, Bucher a décidé de désactiver temporairement l’option de consentement à l’utilisation de ses données. Les résultats ont été immédiats et irréversibles. « À ce moment-là, toutes mes conversations ont été supprimées définitivement, et mes dossiers de projet ont été vidés », a-t-il rapporté. « Il n’y a eu aucun avertissement. Pas d’option d’annulation. Juste une page blanche. » Deux années de travail se sont volatilisées.
Initialement convaincu qu’il s’agissait d’une erreur technique, le professeur a tenté de récupérer ses données en changeant de navigateur, en effaçant le cache, en réinstallant l’application et en restaurant les paramètres. Toutes ses tentatives ont échoué. Même le contact avec le service client n’a pas abouti. « Les premières réponses provenaient d’un agent IA », raconte Bucher. Ce n’est qu’après plusieurs relances qu’un opérateur humain a confirmé que les données étaient irrévocablement perdues.
Pourquoi la suppression a eu lieu : les règles de protection de la vie privée de ChatGPT
En consultant la page des informations sur la vie privée d’OpenAI, il est expliqué que l’entreprise récolte des données personnelles liées à l’identité de l’utilisateur, aux contenus des conversations et à l’utilisation technique du service, comme l’adresse IP, le type d’appareil et les méthodes de connexion. Ces données sont utilisées pour faire fonctionner ChatGPT, l’améliorer, prévenir les abus et répondre à des obligations légales. De plus, les contenus des conversations peuvent être utilisés pour entraîner les modèles ; néanmoins, comme l’a constaté le professeur Bucher, l’utilisateur peut révoquer son consentement. Lorsque la collecte de données est désactivée, le principe de « privacy by design » entre en jeu : les conversations sont supprimées et ne peuvent plus être récupérées.
« OpenAI a respecté ce qu’elle considérait comme un engagement envers ma vie privée en tant qu’utilisateur, effaçant mes informations dès que je l’ai demandé« , résume Bucher, qui doit désormais faire face à la perte irrémédiable de deux années de travail.
Cette protection s’avère donc nuisible dans le cas de Bucher, entraînant une perte définitive de matériel professionnel. Pour le professeur, le problème est des plus structurels. « Si un simple clic peut anéantir des années de travail, ChatGPT ne peut pas être jugé entièrement sûr pour un usage professionnel », a-t-il commenté, insistant sur l’absence d’avertissements clairs, de systèmes de sauvegarde ou même d’une période de récupération temporaire.
Un avertissement pour tous
Ce cas souligne une vulnérabilité plus large. Les universités encouragent de plus en plus l’intégration de l’intelligence artificielle dans les recherches et l’enseignement, mais les outils disponibles ne semblent pas encore être conçus avec des normes de fiabilité et de responsabilité semblables à celles exigées dans le domaine scientifique.
Pour clarifier la situation, la revue Nature a précisé avoir contacté l’entreprise pour obtenir un commentaire, mais la réponse n’a pas varié par rapport à ce qu’elle avait précédemment annoncé à Bucher. Au-delà de l’envoi d’une confirmation avant d’entreprendre l’opération de suppression des données (et donc de la conversation), OpenAI ne dispose d’aucun autre outil pour gérer la situation, et tout ce qui est supprimé est définitivement irrécupérable. L’entreprise a toutefois rappelé l’importance de faire des sauvegardes personnelles pour ne pas perdre son travail en cours.