Ces derniers mois, des systèmes d’intelligence artificielle partiellement autonomes, dits « agentiques », ont accompli des prouesses remarquables. Ils ont piraté des jeunes entreprises technologiques et résolu certaines des énigmes mathématiques ouvertes les plus célèbres au monde.
Ces systèmes d’IA peuvent fonctionner en « essaims ». Ils communiquent entre eux pour accomplir des tâches. Leurs échanges sont souvent étonnamment similaires à des conversations humaines. Ce phénomène alimente un débat sur une éventuelle conscience de ces machines.
Des chercheurs du laboratoire d’IA Anthropic estiment que leurs systèmes pourraient être conscients. Mais d’autres experts, comme le responsable de l’IA chez Microsoft, jugent cette idée erronée. Cette question dépasse le cadre universitaire. Le futur statut de l’IA dans la société, ses droits potentiels et la manière de la traiter en dépendent.
Déterminer la conscience des systèmes d’IA
Comment aborder ce problème ? Une méthode consiste à examiner les théories existantes sur la conscience et à vérifier si les IA agentiques remplissent les critères.
Cependant, ces théories partent du postulat que l’agent possède un certain état mental. Elles se concentrent sur la différence entre vivre un état de manière consciente ou inconsciente. C’est pourquoi elles invoquent des concepts comme la pensée d’ordre supérieur, ou un système qui diffuse des pensées au reste de l’esprit. Ce sont des traits qui pourraient distinguer le contrôle conscient d’états comme le somnambulisme.
Pour l’IA, une question préalable est donc cruciale : ces systèmes ont-ils seulement des états mentaux ?
La nature d’un état mental
Dans les années 1870, le philosophe Franz Brentano a développé une vision influente : « l’intentionnalité est la marque du mental ».
Par « intentionnalité », Brentano désigne la façon dont les états mentaux se rapportent à quelque chose. Ils font référence à un objet extérieur à eux-mêmes. On peut donc reformuler son propos : tous les états mentaux sont à propos de quelque chose.
L’intentionnalité au sens de Brentano n’est pas identique à l’ « intention » courante de faire quelque chose. Mais les deux concepts se recoupent largement, car percevoir ou penser est une action.
Chaque fois que nous percevons ou pensons, nous tentons de distinguer un aspect du monde. Même nos expériences visuelles, qui semblent passives, deviennent une tâche dès que nous utilisons les motifs qui frappent nos rétines pour nous orienter.
Si un état mental est une tâche exécutée pour atteindre un but, la question des esprits d’IA repose sur ce point : ont-ils leurs propres objectifs ?
Les systèmes d’IA sont-ils de véritables agents ?
Il est courant de qualifier certains systèmes d’IA d’« agents ». Ce terme est trompeur. Il sous-entend que ces systèmes possèdent une agentivité, c’est-à-dire la capacité d’agir pour leurs propres fins.
Les humains utilisent des outils pour atteindre leurs objectifs, y compris l’objectif de faire référence à des choses, sans que ces outils ne deviennent des agents à part entière. Un thermostat régule la température, mais il n’a pas pour but de réguler la température. Un livre contient des mots qui désignent des choses, mais le livre n’a pas pour but de désigner des choses.
Pour attribuer une agentivité à un programme informatique, nous devons être convaincus qu’aucun humain ne se tient derrière ses objectifs. Sa direction vers un but doit être indépendante.
Nous savons que les IA agentiques, lorsqu’elles reçoivent une mission, peuvent développer des sous-objectifs complexes et inattendus pour l’accomplir. Mais les objectifs qui guident in fine leur activité sont fixés par les humains qui les programment et les instruisent. Tout sous-objectif généré par une IA est littéralement dépourvu de sens en dehors de ces buts fixés par l’homme.
Prenons l’exemple du football. Un joueur peut avoir le sous-objectif de dribbler un défenseur, mais cela n’a littéralement aucun sens sans l’objectif plus large de marquer un but. Et marquer un but, c’est simplement faire franchir une ligne à un ballon sans le but plus large de jouer au football. Sans cet objectif global, tout ce qu’un joueur fait sur le terrain n’est qu’une activité.
L’origine des buts chez les agents
Un véritable agent a des buts pour favoriser des choses auxquelles il tient. Par exemple, vous voulez satisfaire votre faim à l’heure du déjeuner, alors vous allez à la boulangerie acheter un sandwich.
Il est improbable que l’IA agentique tienne à des choses de manière indépendante, car son activité n’est pas connectée à la vie de la même manière que les esprits.
Ce qui permet spécifiquement aux êtres vivants de générer leurs propres buts, c’est que leur activité mentale découle des processus qui reconstituent constamment leur propre corps et les maintiennent en vie. La pensée orientée vers un but se construit à partir de signaux simples pour réguler la nutrition et la chaleur, puis passe par des états comme la douleur et le plaisir, et aboutit finalement à la pensée symbolique.
Rien de tel ne se produit dans l’IA agentique. Il existe un décalage entre ses activités de traitement de l’information et la matière physique dont elle dépend.
L’IA peut-elle un jour être consciente ?
Les systèmes d’IA agentiques ne sont pas conscients. Ils n’ont pas d’états mentaux qui pourraient l’être.
Seuls les êtres vivants ont des états mentaux conscients, car avoir un état mental exige qu’un être génère un certain type de but, le but de vouloir dire quelque chose ou de faire référence à quelque chose. Or, seuls les êtres vivants génèrent des buts.
Cet argument n’exclut pas définitivement la possibilité d’une conscience de l’IA. Il suggère cependant que cela ne pourrait survenir que dans une forme artificielle de vie.
D’ici là, nous avons plus de raisons de penser qu’une fourmi est consciente qu’une IA agentique. Au moins, une fourmi semble tenir à sa propre vie.
Bien sûr, le fait que les IA agentiques ne soient pas de vrais agents ne les empêche pas de semer le chaos en exécutant des fonctions que leurs créateurs humains ne supervisent ou ne comprennent pas correctement. Mais nous devons être très clairs sur ce point : tout ce qu’une IA agentique fait, c’est un humain ou un groupe d’humains qui agit indirectement sur le monde, et ces humains sont responsables du résultat.