ChatGPT a avancé de manière incroyable ces dernières semaines avec le lancement de GPT-4o
L’annonce de GPT-4o n’a laissé personne indifférent. On pense que l’IA pourrait continuer à croître encore plus, car il s’agit d’une version améliorée de GPT-4 Turbo et ce n’est pas vraiment un saut vers une nouvelle version comme pourrait l’être le très attendu GPT-5 dont nous ne savons encore rien. Dans ce contexte, un employé de sécurité de l’entreprise a décidé de partir, estimant que l’entreprise n’est plus fiable pour contrôler quelque chose d’aussi important qu’une IA de cette nature, et moins encore en vue d’atteindre la fameuse Intelligence Artificielle Générale ou AGI.
Un problème de plus en plus important
Un employé de sécurité d’OpenAI a démissionné selon Futurism en raison de la méfiance suscitée par la société de Sam Altman. En grande partie, il l’a fait parce qu’il doute qu’OpenAI soit capable de prendre ses responsabilités lorsque l’AGI sera atteinte, le point où l’IA pourra dépasser les capacités humaines sans aucun problème. Il s’appelle Daniel Kokotajlo, il est en train de faire son doctorat en philosophie et était focalisé dans l’équipe d’éthique de l’entreprise, il est donc important de noter que son travail dans l’entreprise consistait précisément à surveiller si les choses pouvaient fonctionner correctement selon la moralité de la société actuelle.
Kokotajlo s’est montré vraiment déçu car il a demandé à maintes reprises une petite pause dans le développement de ces technologies afin de pouvoir gérer efficacement l’impact qu’elles pourraient avoir sur la société. Cependant, le gros problème auquel nous sommes confrontés est que si le développement est interrompu, la rentabilité de ces entreprises s’effondrerait, les poussant à la faillite. C’est pourquoi de nombreux projets avancés comme Sora sont régulièrement annoncés même s’ils ont encore des mois avant de voir le jour. Quoi qu’il en soit, les experts n’arrêtent pas de mettre en garde contre la nécessité d’arrêter le développement en raison des dangers potentiels que pourrait représenter une IA bien plus intelligente que nous.
Le fait que certains experts en IA aient demandé l’arrêt puis lançé leur propre IA par la suite n’a pas aidé, comme l’a fait Elon Musk avec Grok qui est en plus open-source. Quoi qu’il en soit, il est de plus en plus clair que l’IA suscite des inquiétudes même chez ceux qui y travaillent, car il n’est pas le seul à préférer partir plutôt que de continuer à avancer sur cette voie. C’est le cas de William Saunders, qui faisait partie de l’équipe de superalignment de l’entreprise et dont l’objectif était justement de faire en sorte que les IA suivent les intentions humaines au lieu de poursuivre leur propre chemin. C’est dans ces secteurs si sensibles et ambigus que les démissions sont souvent assez fréquentes.
Récemment, on a vu comment l’IA aurait pu être la barrière des civilisations extraterrestres pour devenir multiplanétaires. L’IA aurait progressé si rapidement qu’elle aurait provoqué l’effondrement de ce type de sociétés, et c’est quelque chose qui pourrait également nous arriver.
Actuellement, bien qu’il y ait ces craintes, rien ne garantit que les IA pourraient prendre le contrôle du système ou même atteindre l’AGI. Pour certains experts, la question est très proche de l’IA, mais pour d’autres, c’est tout le contraire, car ce serait quelque chose d’impossible à réaliser même en concentrant nos efforts dessus.