L’IA devient progressivement un monstre que nous pourrions avoir du mal à contrôler. Comme la créature hideuse libérée par le Dr. Frankenstein dans le nouveau film de Guillermo del Toro sur Netflix, nous n’avons pas une bonne maîtrise de ce que nous avons créé ou de quel type de pouvoir elle pourrait disposer.
Voici un exemple pour illustrer ce propos :
Un robot humanoïde nommé Iron marche sur une scène bien éclairée. Le robot affiche une légère assurance, semblable à un mannequin sur un podium. Alors que cette créature de Frankenstein se déplace avec aisance, le PDG de l’entreprise de robotique Xpeng — plus connue pour la fabrication de voitures électriques en Chine que pour les robots — explique comment la main gesticulante de l’Iron possède 22 degrés de mouvement.
Vêtu d’une combinaison blanche moulante et portant des chaussures de sport tendance, le robot semble étrangement humain — comme le monstre de Frankenstein ramené à la vie.
Après la démonstration, les utilisateurs des réseaux sociaux — équivalents modernes des villageois brandissant des fourches et construisant un bûcher — n’ont pas tardé à réagir. « Je pense que nous avons déjà vu ce coup, » affirme un commentaire. Un autre expliquait que ce robot est manifestement un vrai humain ; une vidéo de démontage a même expliqué que le robot Iron a une colonne vertébrale et un support-gorge. « Le robot de Tesla ne marche pas aussi bien — c’est impossible, » a déclaré un utilisateur.
Plus tard, le PDG a diffusé une vidéo de suivi montrant des techniciens couper une partie de la combinaison pour révéler ce qui est manifestement la jambe du robot — par exemple, un actionneur et un os en métal. On pouvait presque entendre des murmures de la foule. Comme un équivalent moderne de Prométhée, l’intelligence artificielle — apparemment descendue des cieux — est devenue un monstre… et nous sommes les villageois.
Le film Frankenstein est un rappel opportun sur les dangers de la science moderne (et de la technologie) avançant trop rapidement. Le roman original du même nom par Mary Shelley, publié en 1816, était prémonitoire d’une manière que l’auteure n’aurait jamais pu prévoir.
En regardant le film, je n’ai pas pu m’empêcher de penser que l’intelligence artificielle est également un monstre d’innovation, que nous créons des outils et du contenu que nous ne comprenons pas entièrement.
Pire encore, les images et vidéos d’IA qui prolifèrent constamment sur les réseaux sociaux et en ligne sont presque indiscernables de celles créées par de vraies personnes qui ont méticuleusement travaillé avec des applications comme Adobe Photoshop. Appelée AI slop, ce contenu génératif a envahi chaque recoin du web et sera impossible à nettoyer. La plupart du contenu est mal étiqueté comme étant de l’IA et il y a peu de restrictions sur la manière dont il peut être utilisé ou sur la protection des créateurs de contenu réels. Nous avons déjà créé le monstre ; maintenant, il nous faut trouver comment le contrôler.
Établir des lignes directrices pour nos créations d’IA
L’IA a dépassé notre capacité à établir des garde-fous. Voici un autre exemple frappant.
Tilly Norwood (illustrée ci-dessus) est une actrice IA qui semble indiscernable d’une vraie personne, du moins à première vue, et illustre bien comment l’IA a avancé trop rapidement. L’entreprise derrière Tilly a noté qu’elle cherche un agent pour l’actrice IA sans partager trop de détails. L’industrie est devenue un peu folle, suggérant que nous ne sommes pas préparés à un monde où une actrice IA joue dans un film — comment quelque chose sans âme ni cœur pourrait toucher un salaire au lieu d’une vraie personne ayant une réelle formation et expérience dans le domaine.
Dans le film Frankenstein, il y a une scène étrangement similaire où le Dr. Frankenstein démontre comment il peut réanimer le bras, le torse et le cerveau d’un homme décédé. Cela signifie-t-il que la création est désormais une vraie personne ? A-t-elle une âme ? Ceux qui assistent à la démonstration du Dr. Frankenstein posent ces mêmes questions, suggérant que cette abomination est prématurée et dangereuse.
Nous devrions poser les mêmes questions sur l’IA. Les avancées arrivent à un rythme effréné, mais nous n’avons pas établi de lignes directrices appropriées. Nous ne savons pas ce que l’IA est capable de faire ou ce que l’avenir nous réserve — par exemple, comment ces innovations changeront notre manière de travailler et de vivre dans la société moderne.
En attendant, les créateurs de contenu réels, les travailleurs de la connaissance, les écrivains, artistes et cinéastes sont ceux qui souffriront — et ils le font déjà. Accenture a récemment supprimé 11 000 emplois, pointant du doigt les postes qui ne suivaient pas le rythme avec l’IA en tant qu’outil auxiliaire.
Sommes-nous d’accord avec cela ? Savons-nous même comment la technologie d’IA impactera notre propre productivité et performance au travail ? Ceux qui sont en faveur de l’innovation IA — et je fais partie d’eux — ont tendance à parler d’un rôle de support. En matière d’écriture, une IA peut nous aider à vérifier des faits et à corriger, ce qui sont des tâches plus banales. Pourtant, il est trop facile de laisser l’IA réécrire complètement — ou même composer l’original à partir de zéro. Aujourd’hui, à part utiliser une application de détection d’IA comme GPTZero pour déterminer si un humain était impliqué, il n’y a pas de garde-fous ni de lignes directrices.
Il est temps d’établir des garde-fous maintenant avant que les abominations de l’IA ne deviennent trop puissantes et omniprésentes. L’AI slop nuit à la création de contenu ; les chatbots peuvent halluciner et délivrer des informations incorrectes ; les robots humanoïdes peuvent effectuer des tâches ménagères mais semblent déjà étrangement sensibles.
Comme pour toute nouvelle innovation, une illusion persiste que l’IA peut changer notre manière de travailler et même nous divertir d’une manière que nous n’avons jamais imaginée. Beaucoup des outils d’IA que nous utilisons aujourd’hui sont pratiques et utiles, mais nous sommes loin de comprendre les conséquences sur notre santé mentale, comment procéder pour garantir un emploi pour tous, ou comment aborder les questions éthiques.
Les humanoïdes devraient-ils avoir des droits et privilèges ?
Un autre sujet crucial à envisager, que Frankenstein évoque également, est de savoir si les nouvelles créations devraient avoir des droits et privilèges, similaires à ceux des humains.
J’ai mentionné les techniciens qui ont ouvert la jambe du humanoïde Iron car, en quelque sorte, c’était un autre exemple de l’absence de garde-fous. Bien qu’il fût utile de voir ce qu’il y avait derrière le rideau, il n’était pas immédiatement évident si le humanoïde Iron était un vrai robot ou un humain. Il devient de plus en plus évident que les humains ne pourront bientôt plus faire la différence.
Par exemple, lorsque Tesla a récemment démontré comment le robot Optimus pouvait effectuer des tâches banales, il n’était pas évident qu’un opérateur humain était impliqué. Les robots semblaient très capables, mais il a été révélé plus tard qu’ils n’étaient pas du tout autonomes.
Un autre sujet exploré dans Frankenstein est la notion de véritable mal. Légère alerte aux spoilers : À la fin du film, il devient douteux de savoir qui est le véritable monstre, le créateur ou la créature. Nous devons nous poser des questions similaires sur l’IA, en particulier en relation avec la santé mentale. Les personnes parlent constamment aux chatbots de problèmes personnels, mais il y a très peu d’information sur ces échanges ou de lignes directrices concernant les conseils donnés. Lorsque l’IA induit quelqu’un en erreur et que celui-ci se blesse, doit-on blâmer le bot d’IA ou le créateur de celui-ci ?
ChatGPT, par exemple, est un grand modèle de langage. Il analyse le sens et l’intention de l’utilisateur en fonction d’une base de données de résultats possibles. En coulisse, des ingénieurs humains réels assemblent le code qui rend ChatGPT possible. Savons-nous si ces ingénieurs peuvent être dignes de confiance ? Quel accès avons-nous à leur processus pour savoir s’il est légitime ?
Il ne fait aucun doute qu’il est seulement question de temps avant que quelqu’un achète l’un de ces chers humanoïdes et fasse quelque chose de terrible, probablement pour un coup de publicité.
Au final, alors que nous assistons quotidiennement à de nouvelles innovations en IA, nous devons rattraper la technologie aussi vite que possible — Frankenstein est déjà libéré.