William Saunders, ancien employé d’OpenAI, exprime son inquiétude face au développement de l’intelligence artificielle, la comparant à la construction du Titanic. Il met en garde contre les risques potentiels d’une IA incontrôlée qui pourrait influencer des décisions humaines cruciales. Ses préoccupations soulignent la nécessité d’améliorer les mesures de sécurité.
William Saunders, qui a travaillé plusieurs années dans l’équipe de superalignement d’OpenAI, exprime ses inquiétudes concernant le développement de l’intelligence artificielle et ses impacts potentiels sur la société. Dans une interview, l’ex-employé de cette société américaine compare l’approche de l’entreprise à la construction du Titanic, prédisant qu’au cours des prochaines années, nous pourrions faire face à des conséquences catastrophiques si les mesures de sécurité ne sont pas améliorées.
Saunders a travaillé pendant trois ans dans l’équipe de superalignement d’OpenAI, visant à s’assurer que les systèmes d’intelligence artificielle avancés agissent dans l’intérêt de l’humanité. Il a présenté sa démission il y a un an, en février 2024, en raison de son opinion selon laquelle l’entreprise gérait de manière irresponsable les risques liés à l’IA.
Son analogie avec le Titanic repose sur deux points clés. D’une part, l’excès de confiance dans les mesures de sécurité actuelles, comparables aux compartiments étanches du navire qui étaient considérés comme infaillibles. D’autre part, le manque de préparation pour des scénarios catastrophiques, tels que la possibilité que des systèmes d’IA développent des capacités cachées ou s’améliorent eux-mêmes sans contrôle.
Comme on peut le voir dans cette publication partagée par @chatgptricks, un compte Instagram dédié aux nouvelles sur l’intelligence artificielle, et plus précisément sur ChatGPT, voici les déclarations complètes de William Saunders :
Saunders avertit que l’intelligence artificielle pourrait influencer des décisions humaines critiques telles que les élections et les marchés financiers, sans que nous prenions conscience de son intervention. Cela rejoint des études récentes montrant comment des modèles comme GPT-4 sont déjà capables de tromper les humains dans des jeux stratégiques.
De plus, il critique le fait qu’OpenAI privilégie les lancements commerciaux au détriment de la recherche sur la sécurité, comparant son modèle économique à celui d’une entreprise traditionnelle plutôt qu’à celui d’une organisation pionnière. Il en profite pour évoquer des cas comme le licenciement de Leopold Aschenbrenner, un autre chercheur qui a alerté sur des défaillances de sécurité.
La situation devient plus urgente avec l’annonce de Meta concernant le développement d’une IA « plus intelligente que les humains mais obéissante », ainsi que les avertissements d’experts comme Yann LeCun sur l’accélération technologique. Saunders insiste sur le fait que le véritable danger n’est pas la révolte des machines, mais notre incapacité à anticiper comment des systèmes complexes pourraient manipuler les environnements sociaux et économiques.