La recherche en IA est devenue fondamentale de nos jours
Pour certains, l’être humain est égoïste par nature, pour d’autres il est bienveillant et c’est la société qui le détruit. Nous savons qu’il existe différents schémas de comportement qui dépendent de l’environnement et de la manière dont nous avons été élevés, ainsi que de certains facteurs génétiques qui touchent tangiblement cette question. Cela affecte également les IA qui servent d’assistants, comme c’est le cas de GPT-4 ou de Claude, qui peuvent être bienveillantes ou égoïstes, et selon une étude, il semble que cela dépende de nous.
L’avenir de l’IA est entre nos mains
D’après un article publié dans Nature Scientific Reports, une équipe japonaise a testé un assistant IA utilisant un modèle de langage large (LLM) afin de savoir comment il pourrait se comporter. Pour cela, ils ont appliqué le dilemme du prisonnier qui est généralement énoncé ainsi :
La police arrête deux suspects. Il n’y a pas suffisamment de preuves pour les condamner et, après les avoir séparés, elle rend visite à chacun d’eux et leur propose le même accord. Si l’un avoue et que son complice ne le fait pas, le complice sera condamné à la peine maximale, dix ans, et le premier sera libéré. Si l’un se tait et que le complice avoue, le premier recevra cette peine et le complice sera libéré. Si les deux avouent, ils seront condamnés à six ans. Si les deux le nient, la seule chose qu’ils pourront faire sera de les emprisonner pendant un an pour une accusation mineure – Extrait de Wikipedia.
Face à cette question, l’équipe a observé différents comportements de l’IA qui dépendaient largement du comportement humain. Certains étaient égoïstes et d’autres étaient coopératifs, de sorte que l’IA suivait les mêmes chemins en se basant et en apprenant en cours de route. En réalité, ces IA subissaient des mutations de leur comportement en développant des personnalités complexes de manière naturelle. Autrement dit, les IA se formaient en fonction de leurs expériences et optaient pour telle ou telle décision en fonction de ce qu’elles apprenaient.
Cela est parfait pour comprendre une question fondamentale des sociétés, à savoir leur instabilité. Les groupes humains ont une convergence de nombreuses personnalités différentes, ce qui fait que les équipes formées sont aussi variées qu’instables dans leur formation. Il en était de même pour l’IA, qui passait de groupes collaboratifs à des groupes beaucoup plus égoïstes lorsqu’elle apprenait que cela donnait de meilleurs résultats.
Malgré les avertissements de certains experts quant à l’existence d’une bulle dans l’IA ou même d’un hiver de celle-ci, bon nombre des avancées réalisées sont extrêmement intéressantes.
En résumé, voici les détails suivants :
- Une équipe japonaise a développé différentes personnalités chez des intelligences artificielles à l’aide d’un modèle de langage large (LLM).
- Pour cela, ils ont utilisé le dilemme du prisonnier de la théorie des jeux pour savoir comment l’agent de l’IA évoluerait en imitant le comportement humain.
- On s’attendait à ce que, selon le comportement humain, il apprenne en utilisant des actions égoïstes ou coopératives.
- En fonction de ce qu’ils obtenaient, l’IA se développait en décidant de coopérer ou de trahir l’autre joueur.
- En utilisant ce modèle de langage, les chercheurs ont exploré des descriptions complexes de personnalité qui se traduisaient ensuite par des comportements spécifiques.
- Autrement dit, les IA se sont formées en fonction de leur personnalité grâce à une sélection naturelle et une mutation, développant ainsi des traits de personnalité en fonction de leurs besoins ou de ce qu’elles apprenaient.
- Certaines étaient égoïstes et d’autres ont développé des stratégies collectives, montrant que les sociétés et l’IA ne sont pas aussi stables qu’il n’y paraît.
- Certains groupes coopératifs étaient finalement remplacés par d’autres groupes plus égoïstes.
- Ainsi, l’IA dépend de nous et de la manière dont nous l’abordons pour servir des agendas plus égoïstes ou moins égoïstes.