Dans un contexte de tensions technologiques entre les États-Unis et la Chine, un modèle d’IA open source, Deepseek, suscite de vives inquiétudes. Steve Adler, ancien chercheur chez OpenAI, met en garde contre l’accélération du développement de l’IA, évoquant des doutes sur l’avenir de l’humanité face à une compétition incessante.
L’article est publié en plein milieu d’une guerre froide technologique entre les États-Unis et la Chine. Le dernier front est Deepseek, un modèle open source qui a fait trembler la Silicon Valley. Avec seulement 6 millions de dollars, la Chine a créé une intelligence artificielle capable de défier les grandes entreprises technologiques américaines comme OpenAI, Microsoft et Google.
Steve Adler est « terrifié » par le rythme de l’intelligence artificielle (IA). L’ancien chercheur sur la sécurité d’OpenAI a expliqué dans un post sur X que les modèles deviennent de plus en plus performants, que le développement est rapide et que le secteur s’engage dans « une scommessa molto rischiosa« . Adler a quitté l’entreprise à la mi-novembre, « ce fut un voyage sauvage et de nombreuses choses vont me manquer », a-t-il déclaré dans son post, « toutefois, la technologie se développait si rapidement qu’elle soulevait des doutes sur l’avenir de l’humanité. »
Dans le post, Adler a également ajouté : « Je suis plutôt terrifié par le rythme auquel l’intelligence artificielle se développe aujourd’hui. Quand je pense à où je vais élever ma future famille, ou à combien j’économiserai pour ma retraite, je ne peux m’empêcher de demander : l’humanité parviendra-t-elle à ce stade ?« .
Le post est publié en plein milieu d’une guerre froide technologique entre les États-Unis et la Chine. Le dernier front est Deepseek, un modèle open source qui a fait trembler la Silicon Valley. Avec seulement 6 millions de dollars, la Chine a créé une intelligence artificielle capables de défier les premières entreprises tech américaines comme OpenAI, Microsoft et Google. C’est une course, et l’apnée de la compétition, selon le chercheur, « met en péril l’avenir de l’humanité« .
Les peurs d’Adler sur l’intelligence artificielle
Actuellement, la vitesse est au rendez-vous, l’objectif est de courir plus vite que les autres, le risque est de laisser des domaines importants non protégés : « Une course à l’AGI est un pari très risqué, avec d’énormes inconvénients. » Adler a expliqué qu’aucun laboratoire de recherche n’a réussi à créer « un système capable de protéger les valeurs humaines » et l’industrie pourrait avancer trop vite pour en trouver un. « Plus nous courons, moins nous avons de chances que quelqu’un en trouve un à temps. »
Adler a ensuite ajouté : « L’industrie est coincée dans un équilibre déplorable, de vraies normes de sécurité sont nécessaires. Même si un laboratoire voulait vraiment développer l’AGI de manière responsable, d’autres pourraient néanmoins prendre des raccourcis pour rattraper leur retard, peut-être de manière désastreuse. »
Ce n’est pas le premier cri d’alarme sur l’IA
Ce n’est pas le premier cri d’alarme. L’IA soulève en effet de nouvelles préoccupations, le post d’Adler n’est que le dernier d’une longue liste, qui inclut également Geoffrey Hinton, prix Nobel de Physique, reconnu comme le parrain de l’intelligence artificielle. Lors d’une interview à Today de la BBC Radio 4, il a expliqué : « Il y a une probabilité de 10 à 20 % qu’au cours des trente prochaines années, l’intelligence artificielle entraîne l’extinction de l’humanité. »
La technologie avance plus vite que prévu, et nous n’avons jamais eu à faire à quelque chose de plus intelligent que nous. « Et combien d’exemples savons-nous de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent ? », s’est demandé Hinton. De nouvelles lois doivent être introduites pour réglementer le secteur, comme l’explique le parrain de l’intelligence artificielle : « si nous la laissons aux entreprises qui la produisent et qui poursuivent le profit, elle ne sera pas développée en toute sécurité. La seule chose qui peut pousser ces grandes entreprises à faire plus de recherches sur la sécurité est une réglementation gouvernementale. »