Ce qui s’est passé : Ça commence vraiment à arriver. Des tribunaux à travers le monde reçoivent des documents juridiques de la part d’avocats remplis de… mensonges générés par l’IA.
- Il s’agit de cas juridiques totalement fictifs, de citations inventées et de références qui n’existent pas.
- Un data scientist et avocat français, Damien Charlotin, a suivi ce phénomène. Il a trouvé au moins 490 dépôts judiciaires au cours des six derniers mois contenant ces “hallucinations” de l’IA.
- La plupart proviennent des États-Unis, où les juges signalent (et même sanctionnent) les avocats qui présentent ces absurdités générées par l’IA.
- Dans une affaire importante, un avocat pour MyPillow a même soumis un document comportant près de 30 citations fictives. Ouille.
Pourquoi c’est important : Ce n’est pas qu’un problème d’avocat, c’est un véritable enjeu pour tous.
- Nous commençons tous à utiliser ces outils d’IA pour tout – rédiger des rapports, résumer des réunions, effectuer des recherches.
- Le souci, c’est que l’IA sait très bien se montrer convaincante, même lorsqu’elle se trompe complètement. Elle fournit une réponse qui semble plausible mais qui est simplement… fausse.
- Comme l’a dit Charlotin, “L’IA peut être bénéfique, mais il y a ces pièges.” Même des personnes intelligentes et expérimentées se laissent tromper, ce qui représente un risque majeur pour toute entreprise qui s’appuie sur un travail généré par l’IA sans le vérifier.
Pourquoi cela m’intéresse : Que vous soyez enseignant, avocat ou manager, l’IA devient incontournable. Impossible de l’éviter. Mais comme l’avertissent les experts, il ne faut absolument pas utiliser ces outils aveuglément.
- Maria Flynn, PDG de Jobs for the Future, citée dans un rapport de l’AP, l’a parfaitement résumé : considérez l’IA comme un “assistant, pas un substitut.”
- Vous devez toujours être la personne qui vérifie. Assurez-vous des faits, veillez à ne pas enfreindre les lois sur la confidentialité et surtout, n’uploadez pas les données sensibles de votre entreprise.
- Comme l’a dit un autre avocat, “Les personnes supposent que c’est juste parce que cela semble juste – mais cette assumption peut vous coûter cher.” Cela peut vous coûter votre réputation, votre emploi, voire vous causer des ennuis juridiques.
Quelle est la suite : En gros, il est urgent que nous apprenions à mieux utiliser l’IA. Rapidement.
- Les entreprises doivent inciter leurs équipes à se former sur ce sujet – comment vérifier le travail, l’utiliser en toute sécurité et ce qu’il ne faut surtout pas faire.
- C’est en train de devenir une compétence de base dans le monde du travail. Comme l’a dit Flynn, “Le plus grand piège est de ne pas apprendre à utiliser l’IA du tout.” L’avenir ne concernera pas uniquement le remplacement d’emplois par l’IA, mais plutôt les personnes qui savent s’en servir de manière responsable.