Une étude récente révèle que l’évolution de l’intelligence artificielle, bien que fascinante, entraîne des conséquences imprévues. Les modèles de langage de plus en plus sophistiqués semblent savoir beaucoup, mais ils sont également capables de fournir des réponses convaincantes et incorrectes, rendant leur fiabilité préoccupante.
Pour la surprise de personne, une IA de plus en plus avancée deviendra plus humaine, pouvant répondre à des questions plus complexes, mais aussi nous tromper avec naturel, faisant passer pour vraies des réponses qui sont incorrectes.
Il est courant que les lois arrivent toujours en retard à toute fête, et il est vrai que avec l’IA, cela ne fait pas exception. En effet, dès ses débuts, l’avancée de l’intelligence artificielle est assez effrayante, surpassant les humains presque dans tous les domaines, laissant présager qu’étant donné que nous ne faisons que commencer, l’avenir s’annonce encore plus incertain quant à ses possibilités et à son intégration dans nos vies et/ou nos métiers.
Bien sûr, cette situation devra être gérée par des experts à l’avenir, mais dans le présent, des études s’enchaînent pour nous informer sur la manière dont les IA se comportent au fur et à mesure qu’elles se développent, apprennent et avancent, comme le souligne la récente analyse de Futurism, qui parle d’une IA de plus en plus sophistiquée et donc de plus en plus encline à mentir.
Bien sûr, nous ne parlons pas d’une machine qui ment de manière consciente, car pour l’instant, elles restent des IA entraînées, mais l’étude conclut qu’à mesure que les modèles de langage deviennent plus avancés, ils ressemblent de plus en plus aux humains, pouvant « mieux simuler le fait d’avoir des connaissances ».
L’étude originale, publiée dans la revue Nature, a examiné certains des LLM commerciaux les plus importants de l’industrie, ces modèles gagnant en puissance à chaque itération, mais qui devenir moins fiables à mesure qu’ils évoluent pour une raison simple.
Les chatbots modernes et puissants se croient si intelligents qu’ils ont tendance à inventer des faits et des réponses au lieu de rejeter les questions pour lesquelles ils n’ont pas de solution valable. Évidemment, nous parlons de GPT d’OpenAI, LLaMA de Meta ou BLOOM de BigScience, qui sont trois des options les plus importantes.
José Hernández-Orallo, expert à l’Institut valencien de recherche sur l’intelligence artificielle et co-auteur de l’étude originale, décrit la situation ainsi :
« Aujourd’hui [les IA] répondent à presque tout, ce qui signifie qu’il y a plus de réponses correctes, mais aussi plus d’incorrectes. »
Bien entendu, les IA deviennent beaucoup plus précises et intelligentes, mais cela entraîne une conséquence indésirable : elles savent mieux simuler le fait d’être bien entraînées, et donc peuvent nous fournir des réponses convaincantes qui sont totalement fausses.
Le débat réside dans le fait que le problème n’est plus seulement de leur poser des questions très complexes, car elles deviennent capables de répondre à ces questions, mais que le véritable problème est qu’elles continuent à échouer sur des questions simples, avec des niveaux de précision autour de 60 % dans l’étude réalisée.
Cela est préoccupant, car les humains impliqués dans l’étude ont perçu les réponses de l’IA comme précises alors qu’elles étaient incorrectes dans de nombreux cas, se trompant entre 10 et 40 % du temps à cause du caractère convaincant de l’IA.
« Il est possible d’établir un seuil pour que, lorsque la question est plus difficile, [le chatbot] puisse dire ‘je ne sais pas’ et évite de répondre incorrectement. »
Les chercheurs sont clairs : l’idéal serait de programmer les chatbots et les LLM pour qu’ils évitent de répondre systématiquement à tout, surtout lorsqu’ils ne comprennent pas le contexte ou ne peuvent pas vérifier ou valider que leur information est correcte.
Cela dit, cela irait à l’encontre des intérêts industriels, des entreprises et d’un business multimillionnaire où chacun veut se positionner comme norme de facto, et où un chatbot qui serait honnête et dirait qu’il ne sait pas certaines choses serait perçu comme limité, compliquant son intégration sur le marché par rapport à d’autres options qui acceptent de répondre à tout, même au risque de se tromper.
Et voilà, nous avons déjà des problèmes avec l’IA, et nous sommes encore au début de tout cela…!