Sam Altman souligne la complexité des enjeux liés à l’intelligence artificielle, affirmant qu’il n’existe pas de solution magique pour contrer ses dangers. Lors d’une discussion avec Satya Nadella, il met en lumière l’inéluctabilité de l’AGI, tout en avertissant qu’il n’est pas possible d’arrêter son avancée sans conséquences économiques.
Avec Satya Nadella, Sam Altman a évoqué les risques de l’IA au début de l’année dernière
Sam Altman est reconnu pour ses mises en garde concernant les dangers d’une IA incontrôlée, mais il a récemment précisé que les options pour freiner son développement sont plus délicates qu’il n’y paraît. Les risques liés à l’IA suscitent un grand intérêt public, souvent amplifié par des discours alarmistes sur la possible disparition d’emplois.
Dans une conversation avec Satya Nadella, CEO de Microsoft, diffusée sur The Economist et disponible sur YouTube, Altman aborde ces préoccupations, tout en insistant sur le fait qu’il n’existe pas de réponse simple à cette problématique. Examinons cela de plus près.
Les dangers de l’IA
Comme d’habitude, les craintes se sont cristallisées autour de l’Intelligence Artificielle Générale (AGI). Altman qualifie cette AGI de « diffuse », prédisant un « paniquement de deux semaines avant que la vie ne reprenne son cours ». Cela signifie qu’elle sera indéniablement cruciale sans être révolutionnaire. Il reconnaît néanmoins qu’il n’a « aucune idée de ce qui se produira ensuite ».
Il n’y a pas de bouton rouge magique pour arrêter l’IA.
Altman fait part d’une observation intéressante en comparant notre époque à des révolutions technologiques passées. Il note des parallèles, car il estime que des scénarios catastrophiques sont souvent évoqués sans raison valable.
Il insiste sur le fait qu’il n’y a aucun moyen de stopper l’AGI et que concevoir une telle idée serait vain. Comme il est souligné dans les commentaires de la vidéo : « Un ingénieur peut arrêter un train en marche, mais une méga-corporation ne peut pas stopper un business lucratif ».
Cela soulève des interrogations sur la possibilité de mettre un terme à cette évolution ou si cela serait néfaste pour le modèle économique d’OpenAI, qui oscille entre une fondation et une entreprise commerciale classique.