Max Tegmark, président du Future of Life Institute, alerte sur les risques liés à l’évolution rapide de l’intelligence artificielle, notamment la menace d’une IA générale. Lors d’une récente conférence à Paris, il a souligné que le développement de cette technologie pourrait nous dépasser avant que des régulations efficaces ne soient établies, posant ainsi des questions cruciales pour l’avenir.
Avec cela, l’expert a voulu alerter sur la sécurité de l’IA à l’avenir
Max Tegmark, physicien éminent du Massachusetts Institute of Technology (MIT) et président du Future of Life Institute, est une voix influente dans le débat sur l’avenir de la technologie et ses implications éthiques. Scientifique suédois d’origine, il possède une carrière remarquable aux États-Unis et est connu pour ses contributions significatives en physique théorique ainsi que pour son activisme concernant la sécurité technologique. Il met en lumière les dangers potentiels liés à l’avancée rapide de l’intelligence artificielle, particulièrement lorsque son développement semble s’accélérer au-delà de notre capacité à établir des réglementations adéquates.
La course contre le temps que nous pourrions perdre
Mi-février, une importante sommet consacré à l’IA s’est tenu à Paris, où Tegmark a exprimé ses préoccupations au sujet de l’orientation que prend le développement de l’intelligence artificielle :
« Beaucoup de personnes pensaient que maîtriser le langage comme le fait ChatGPT-4 était de la science-fiction il y a à peine six ans. Maintenant, le problème est que de nombreuses personnes au pouvoir n’ont pas encore compris que nous sommes plus proches de construire une intelligence artificielle générale que de savoir comment la contrôler. » – Max Tegmark
Cette déclaration illustre une inquiétude croissante au sein de la communauté scientifique. En effet, l’IA générale, capable de rivaliser ou de surpasser les capacités humaines dans presque toutes les tâches intellectuelles, n’est plus perçue comme une possibilité lointaine, mais comme un développement imminent. Des personnalités comme Sam Altman anticipent son arrivée dès 2026 ou 2027, tandis que d’autres pensent qu’elle n’émergera jamais, jugeant cela infondé. Le scénario avancé par Tegmark est particulièrement troublant, car il suscite des réflexions sur les limites à établir pour maîtriser l’IA avant qu’il ne soit trop tard.
Selon le physicien suédo-américain, l’un des scénarios les plus préoccupants serait celui où « ces entreprises américaines ou chinoises perdent le contrôle et la Terre soit dominée par des machines ». Bien que cela semble relever de la science-fiction, de plus en plus de scientifiques le considèrent comme plausible. Bill Gates lui-même craint une perte de contrôle. Tegmark souligne par ailleurs le risque de « systèmes d’armement où l’intelligence artificielle prend les décisions d’attaquer ou non », une application militaire qui pourrait échapper à tout contrôle humain.
C’est pourquoi Tegmark travaille sur GRASP, un outil conçu pour identifier les outils et technologies susceptibles de constituer un risque pour notre planète avant qu’il ne soit trop tard. À ce jour, il a identifié une douzaine de technologies qui affichent des résultats préoccupants et pourraient compromettre la sécurité d’une manière ou d’une autre.