Une nouvelle défaillance de l’utilisation de l’IA dans le droit a conduit un avocat à être confronté à des sanctions financières sévères. Rafael Ramirez a été mis en cause pour avoir inclus dans ses briefs des affaires fictives créées par ChatGPT, entraînant ainsi des recommandations de pénalités significatives. Que se passe-t-il alors dans le monde juridique ?
Oops : Un autre cas où un avocat a utilisé l’IA générative pour produire des briefs contenant des affaires inexistantes a conduit un juge à recommander une amende de 15 000 € pour ses actions. Cela représente plus de trois fois le montant infligé à deux avocats et à leur cabinet en 2023 pour des faits similaires.
Lorsqu’il a représenté HooserVac LLC dans un procès concernant son fonds de retraite en octobre 2024, l’avocat de l’Indiana, Rafael Ramirez, a inclus des citations de cas dans trois briefs distincts. La cour n’a pas pu localiser ces cas, car ils avaient été fabriqués par ChatGPT.
En décembre, le magistrat américain pour le district sud de l’Indiana, Mark J. Dinsmore, a ordonné à Ramirez de se présenter au tribunal pour justifier pourquoi il ne devrait pas être sanctionné pour ces erreurs.
« Transposer des chiffres dans une citation, se tromper de date ou mal orthographier le nom d’une partie est une erreur », a écrit le juge. « Citer un cas qui n’existe tout simplement pas est quelque chose de complètement différent. M. Ramirez ne donne aucune indication sur la façon dont une citation de cas inventée a trouvé sa place dans son brief. L’explication la plus évidente est que M. Ramirez a utilisé un outil IA génératif pour l’aider à rédiger son brief et a échoué à vérifier les citations avant de le déposer. »
Ramirez a admis avoir utilisé l’IA générative, mais a insisté sur le fait qu’il ne se rendait pas compte que les cas n’étaient pas réels, étant donné qu’il ignorait que l’IA pouvait générer des affaires et des citations fictives. Il a également confessé ne pas avoir respecté la règle fédérale de procédure civile 11, qui stipule que les affirmations faites doivent être fondées sur des preuves existantes ou qu’il existe une forte probabilité que des preuves soient trouvées pour les soutenir par le biais d’une enquête ou d’une découverte ultérieure. Cette règle vise à encourager les avocats à effectuer une due diligence avant de déposer des affaires.
Ramirez déclare qu’il a depuis suivi des cours de formation juridique concernant l’utilisation de l’IA dans le domaine du droit et continue d’utiliser des outils d’IA. Mais le juge a affirmé que son « échec à respecter cette exigence la plus basique » rendait sa conduite « particulièrement sanctionnable ». Dinsmore a ajouté (via Bloomberg Law) qu’en raison de l’incapacité de Ramirez à fournir une représentation compétente et de ses nombreuses fausses déclarations au tribunal, il était renvoyé au juge en chef pour d’éventuelles mesures disciplinaires supplémentaires.
Dinsmore a recommandé que Ramirez soit sanctionné de 5 000 € pour chacune des trois affaires qu’il a déposées contenant des affaires fabriquées.
Ce n’est pas le premier cas de dépendance d’un avocat à l’IA s’avérant mal placée. En juin 2023, deux avocats et leur cabinet ont été condamnés à une amende de 5 000 € par un juge de district à Manhattan pour avoir cité des recherches juridiques fictives générées par ChatGPT.
En janvier, des avocats du Wyoming ont soumis neuf affaires pour étayer un argument dans un procès contre Walmart et Jetson Electric Bikes concernant un incendie prétendument causé par un hoverboard. Huit de ces affaires avaient été halluciné par ChatGPT.