Une figure marquante d’OpenAI a décidé de quitter l’entreprise, mettant en lumière les turbulences internes qui l’affectent. Son objectif était d’atteindre une forme avancée d’intelligence artificielle, mais il souligne les obstacles à surmonter avant d’y parvenir. Une transformation est nécessaire pour garantir un avenir bénéfique pour l’humanité.
OpenAI enregistre une nouvelle démission, cette fois celle du directeur cherchant à atteindre l’Intelligence Artificielle Générale
Atteindre l’Intelligence Artificielle Générale (AGI) sur le marché actuel est devenu un objectif vers lequel toutes les entreprises s’orientent. Qu’elle soit possible ou impossible à ce stade, la recherche et le développement représentent la clé pour transformer la technologie actuelle et propulser l’IA vers un niveau supérieur. Avec l’avènement de GPT-4o, une amélioration significative du modèle a été notée, mais nous restons encore éloignés des objectifs visés. D’après les informations, il semble que l’entreprise ait perdu une figure de proue dans ce domaine.
Miles Brundage, le chercheur principal dédié à la préparation de l’AGI, a annoncé son départ de l’entreprise. Sa démission s’inscrit parmi les nombreuses autres qui ont eu lieu depuis la fondation de l’entreprise, illustrant une profonde division au sein de celle-ci. Cependant, il a affirmé que ce n’était pas le cas.
Un message de départ
Brundage a publié sur sa page Substack une lettre de départ détaillant les raisons de son départ. Il souhaite travailler de l’extérieur pour publier des rapports influençant l’ensemble de l’industrie de l’IA afin de promouvoir une intelligence artificielle plus équitable, profitant ainsi d’une plus grande indépendance.
Il envisage même de fonder une nouvelle organisation à but non lucratif ou de rejoindre une autre structure pour promouvoir des politiques d’IA qui garantissent des bénéfices et la sécurité pour l’humanité, évitant tout danger potentiel.
Comme il se doit, il a également tenté d’expliquer pourquoi nous n’avons pas encore atteint l’AGI, et ses propos ont été très clairs, même si cela nécessite de réduire les attentes concernant le potentiel des laboratoires d’IA actuels :
En résumé, ni OpenAI ni aucun autre laboratoire de pointe ne sont prêts, et le monde ne l’est pas non plus. Pour être clair, je ne pense pas que cela soit une déclaration controversée parmi les dirigeants d’OpenAI, et en particulier, cela soulève une question distincte de savoir si l’entreprise et le monde sont en bonne voie pour être prêts au moment critique (bien que je pense que les écarts restants sont suffisamment significatifs pour que je travaille sur les politiques d’IA pour le reste de ma carrière).
Après avoir déclaré que le monde n’est pas prêt, l’ex-directeur a partagé un article expliquant les raisons de cette situation. Il estime qu’en termes de développement vers l’AGI, nous nous trouvons actuellement au deuxième échelon sur une échelle de 1 à 5, proche des capacités de raisonnement humain.
Brundage pense que l’IA, lorsqu’elle atteindra l’AGI, pourra améliorer la vie de toutes les personnes sur la planète sans problème. Cela dit, des régulations claires et une approche structurée seront nécessaires pour y parvenir.
De plus, l’équipe qu’il dirigeait se dissoudra et intégrera d’autres groupes. Une situation semblable à celle de la dissolution de l’équipe de sécurité, survenue il y a quelques mois.