Le travailleur semble sûr qu’OpenAI finira par sombrer comme le gigantesque navire
Il est clair que GPT-4 est l’un des modèles les plus futuristes que nous avons eu l’occasion de tester. La nouvelle IA d’OpenAI a prouvé être très performante, et lorsque son application améliorée sera finalement lancée, elle sera un allié incontestable pour beaucoup de gens. Cependant, l’IA est devenue une raison de froncer les sourcils en raison des problèmes de sécurité qu’elle peut entraîner. De nombreux employés d’OpenAI ont démissionné précisément pour cette raison. Récemment, l’un d’eux a parlé dans un podcast et a souligné le parallèle entre l’entreprise et l’histoire.
Le Titanic de l’IA
De plus en plus de travailleurs d’OpenAI quittent l’entreprise en réalisant que la sécurité est sacrifiée au détriment de la sortie de versions de plus en plus puissantes. Dans le podcast d’Alex Kantrowitz, un ancien employé a expliqué pourquoi il avait démissionné et a souligné les problèmes existants dans l’entreprise qui devraient être résolus avant de continuer à avancer sur la voie du développement sans arrêt :
« Je ne voulais vraiment pas finir à travailler sur le Titanic de l’IA, c’est pourquoi j’ai démissionné. Pendant mes trois ans chez OpenAI, je me posais parfois une question : le chemin qu’OpenAI empruntait ressemblait-il plus au programme Apollo ou au Titanic? »
William Saunders, l’ancien employé d’OpenAI, affirme que la ressemblance entre OpenAI et White Star Line est évidente. Les deux voulaient des produits nouveaux rapidement et ne tenaient pas compte des questions de sécurité avant de les lancer. Ainsi :
« (Pour le Titanic) on le qualifiait d’insubmersible, mais en même temps, il n’y avait pas assez de canots de sauvetage pour tout le monde, c’est pourquoi lors du désastre, de nombreuses personnes sont mortes. »
Pour lui, c’est ce que ferait OpenAI, avancer à tout prix, en lançant des modèles de plus en plus puissants et impressionnants sans tenir compte du fait que ce développement pourrait poser un problème grave pour la technologie existante actuellement, et, par extension, pour les humains qui l’utilisent pour devenir plus productifs grâce à elle.
En fait, il n’est pas contre le fait que de nouvelles technologies comportent des risques, mais il affirme qu’il est nécessaire d’avoir au moins un plan de contrôle des dommages prêt et de ne pas se précipiter dans l’abîme pour être la première entreprise à atteindre l’Intelligence Artificielle Générale (AGI) dont on parle tant récemment. De plus, OpenAI n’a pas adopté une politique claire en matière de sécurité dans son entreprise, car Altman a dissous l’équipe dédiée à la sécurité et son chef a finalement démissionné pour créer une nouvelle entreprise axée sur les risques liés à l’IA.
Ainsi, on considère qu’OpenAI n’est pas du tout transparent. Altman a toujours soutenu que la sécurité serait primordiale pour l’entreprise, mais ses récentes actions montrent que son intérêt va dans le sens contraire.