L’entreprise semblerait de moins en moins intéressée par les questions éthiques liées à l’IA
Depuis le lancement de GPT-4o il y a une semaine, nous avons constaté que l’instabilité régnant dans l’entreprise est toujours remarquable. En effet, elle semble avoir entraîné la disparition d’une équipe entière, ainsi que le licenciement d’un des principaux détracteurs de Sam Altman. Ainsi, la situation semble assez compromettante en interne, mais ses produits continuent de se maintenir au sommet du développement scientifique de l’IA.
OpenAI rompt une promesse et oublie les problèmes éthiques liés à l’IA
D’après CNBC, OpenAI a dissous son équipe chargée de réfléchir aux risques à long terme liés à l’IA. Un an après l’avoir annoncé, l’équipe de Superalignement disparaîtra et bon nombre de ses travailleurs seront absorbés par d’autres sections de l’entreprise. Les dirigeants de cette section, Ilya Sutskever et Jan Leike, ont exprimé une certaine déception à l’égard d’OpenAI, affirmant qu’ils abandonnent la sécurité au profit de la création de produits de plus en plus remarquables, en oubliant en chemin les préoccupations éthiques qui pourraient en découler.
I joined because I thought OpenAI would be the best place in the world to do this research.
However, I have been disagreeing with OpenAI leadership about the company’s core priorities for quite some time, until we finally reached a breaking point.
— Jan Leike (@janleike) 17 mai 2024
Leike a été assez critique envers l’ancienne fondation, affirmant que :
« Je me suis joint [à OpenAI] car je pensais qu’OpenAI serait le meilleur endroit au monde pour mener cette recherche. Cependant, j’ai été en désaccord avec la direction d’OpenAI concernant les priorités centrales de la société pendant un certain temps, jusqu’à ce que nous atteignions enfin un point de rupture. Je pense qu’il faudrait consacrer beaucoup plus de notre bande passante à nous préparer aux prochaines générations de modèles, à la sécurité, à la surveillance, à la préparation, à la protection, à la robustesse adversaire, (super) alignement, confidentialité, impact social et questions connexes. Il est assez difficile de résoudre ces problèmes et je m’inquiète de ne pas être sur la bonne voie pour y parvenir ».
Cette équipe, en particulier, était conçue pour que ses avancées soient destinées à pouvoir contrôler les systèmes d’IA lorsque ceux-ci seraient plus intelligents que les humains. Autrement dit, lorsque l’Intelligence Artificielle Générale (AGI) serait atteinte. Ainsi, OpenAI prévoyait de consacrer 20 % de ses capacités informatiques à cette initiative pendant quatre ans. Cela s’est avéré être trop long, surtout compte tenu de la concurrence croissante à laquelle la marque a été confrontée. C’est pourquoi OpenAI a décidé de se passer de ce service.
OpenAI affirme que l’entreprise a renforcé la sensibilisation aux risques et aux opportunités de l’AGI et qu’elle travaille à ce que la société comprenne les risques que peuvent présenter ce type de technologies.
En réalité, ces licenciements suscitent plus de préoccupations qu’il n’y paraît vraiment. Ilya Sutskever était l’un des principaux partisans de la démission de Sam Altman il y a quelques mois. Bien que son retour ait entraîné une série de démissions au sein de l’entreprise, il est resté en poste en tant que l’un des principaux fondateurs. Cependant, son départ marque la fin de l’opposition à Altman. Cela montre le climat tumultueux qui doit exister en interne, notamment en raison des incessantes luttes de pouvoir qui semblent s’y dérouler.
Avec d’autres IA progressant dans leur développement à grands pas, comme c’est le cas de Claude, il reste à voir si ce revirement des événements aidera l’entreprise à améliorer sa capacité de traitement, au détriment de dangers éthiques qu’elle pourrait présenter à l’avenir.