Max Tegmark, président du Future of Life Institute, met en lumière les dangers potentiels de l’intelligence artificielle, dont le développement progresse plus rapidement que nos capacités de régulation. Lors d’une récente conférence, il a souligné l’urgence d’établir des limites pour éviter des scénarios catastrophiques, notamment le contrôle de systèmes d’armement par l’IA.
Avec cela, l’expert a voulu mettre en garde sur la sécurité de l’IA à l’avenir
Max Tegmark, physicien renommé du Massachusetts Institute of Technology (MIT) et président du Future of Life Institute, est l’une des voix les plus influentes dans le débat sur l’avenir de la technologie et ses implications éthiques. Ce scientifique d’origine suédoise, bien que possédant une carrière notable aux États-Unis, est reconnu pour ses contributions significatives à la physique théorique et pour son activisme en matière de sécurité technologique. Il attire l’attention sur les dangers potentiels d’un développement rapide de l’intelligence artificielle, en insistant sur le fait que notre capacité à établir des régulations efficaces est souvent en retard.
La course contre la montre que nous pourrions perdre
À la mi-février, une importante conférence sur l’IA s’est tenue à Paris, où Tegmark a partagé ses inquiétudes quant à la direction que prend le développement de l’intelligence artificielle :
« Il y a à peine six ans, beaucoup pensaient que maîtriser le langage comme le fait ChatGPT-4 était de la science-fiction. Aujourd’hui, le problème est que de nombreux décideurs n’ont pas encore compris que nous sommes plus proches de construire une Intelligence Artificielle générale que de savoir comment la contrôler » – Max Tegmark
Cette déclaration illustre une préoccupation croissante au sein de la communauté scientifique, surtout si l’on considère que l’intelligence artificielle générale, capable d’égaler ou de dépasser les capacités humaines dans presque toutes les tâches intellectuelles, n’apparaît plus comme une possibilité lointaine, mais comme une réalité imminente. Des personnalités comme Sam Altman affirment qu’elle pourrait même arriver d’ici 2026 ou 2027, tandis que d’autres estiment qu’elle n’arrivera jamais. Le scénario proposé par Tegmark soulève de nombreuses questions sur les limites à poser pour contenir l’IA avant qu’il ne soit trop tard.
Pour le physicien suédois-américain, un des scénarios les plus préoccupants serait celui où « ces entreprises américaines ou chinoises perdent le contrôle et que la Terre soit dominée par des machines. » Bien que cela puisse sembler relever de la science-fiction, de plus en plus de scientifiques voient cette éventualité comme plausible, y compris Bill Gates, qui craint une perte de contrôle. Selon Tegmark, une possibilité particulièrement alarmante serait d’avoir des systèmes d’armement où l’intelligence artificielle décide à qui attaquer et quand, ce qui pourrait échapper à la surveillance humaine.
Pour cette raison, Tegmark travaille sur GRASP, un outil destiné à identifier les outils et technologies pouvant constituer un risque pour notre planète avant qu’il ne soit trop tard. Il a déjà identifié une douzaine d’entre eux qui affichent des résultats plutôt négatifs et qui pourraient compromettre la sécurité de diverses manières.