Un ancien employé d’OpenAI exprime ses craintes face à l’évolution fulgurante de l’intelligence artificielle, particulièrement en ce qui concerne ses implications pour l’avenir de l’humanité. Steven Adler partage ses préoccupations sur le développement de l’IA et son impact potentiel sur la société, soulevant des questions inquiétantes sur la direction de notre avenir.
Steven Adler, un ancien chercheur en sécurité d’OpenAI, a récemment partagé sur X, anciennement Twitter, qu’il appréhende le développement rapide de l’intelligence artificielle.
L’accélération du développement de l’intelligence artificielle (IA) peut s’avérer profondément troublante, surtout en considérant l’évolution de ChatGPT, le chatbot d’IA d’OpenAI, depuis son lancement fin 2022 jusqu’à aujourd’hui, où il compte des millions d’utilisateurs quotidiens.
Cela rejoint les inquiétudes des experts en sécurité qui participent à son développement, comme en témoignent les déclarations d’un ancien employé d’OpenAI, qui qualifie ce rythme de développement de l’intelligence artificielle de « terrifiant ».
Un ancien employé d’OpenAI remet en question l’avenir de l’humanité avec l’accélération de l’IA
Il y a plus d’une semaine, Steven Adler, ancien chercheur de sécurité chez OpenAI, a posté un fil sur son compte personnel de X, révélant qu’il a quitté son poste en novembre dernier, après quatre ans dans l’entreprise dirigée par Sam Altman. Ce qui retient l’attention dans ce fil, ce sont ses réflexions sur l’évolution de l’IA.
Adler déclare, par exemple, ressentir « une grande peur face au rythme de développement de l’IA aujourd’hui », et lorsque lui vient à l’esprit la question de l’éducation de sa future famille ou son besoin d’économiser pour une retraite confortable, il se demande : « L’humanité atteindra-t-elle ce stade ? »
De plus, Adler a exprimé son inquiétude quant à l’intérêt grandissant que certaines entreprises portent au développement de l’IG (Intelligence Artificielle Générale), un concept désignant un système capable de rivaliser ou de surpasser les humains dans n’importe quelle tâche intellectuelle, comme l’apprentissage autonome, le raisonnement pour la prise de décision, la conscience ou la compréhension.
« À mon avis, la course à l’IG est une entreprise risquée, présentant des inconvénients majeurs. Aucun laboratoire ne possède actuellement de solution pour l’alignement de l’IA. Plus nous avançons rapidement, moins il y a de chances que quelqu’un trouve une solution à temps. »
Il est fascinant de constater qu’alors que des experts en IA comme Steven Adler s’inquiètent des impacts négatifs du progrès inexorable de l’intelligence artificielle sur la survie de l’humanité, d’autres soutiennent que l’IA pourrait en réalité nous sauver de l’extinction.