Le fondateur de Microsoft, Bill Gates, s’est exprimé publiquement pour alerter sur les risques de l’intelligence artificielle. Il affirme que cette technologie progresse à un rythme « vertigineux » et pourrait devenir une arme pour des cyberattaques ou le bioterrorisme. Gates voit aussi des signes que l’IA pourrait un jour agir contre les intérêts humains.
Dans un essai de 6000 mots publié sur son site personnel, Gates Notes, il estime que cette vague de changement « sera soit le plus grand égalisateur jamais inventé, soit la pire source d’injustice ». Il juge qu’il revient à chacun de veiller à la première option.
Le technologue souligne un problème majeur : il n’existe aucun plan pour aborder sereinement l’ère de l’intelligence artificielle. Le temps nécessaire pour évaluer les impacts potentiels n’est pas utilisé de manière judicieuse. « Nous avons besoin de temps pour nous préparer aux bouleversements sociaux, politiques et économiques », écrit-il. Pourtant, les incitations géopolitiques et économiques poussent à foncer à toute vitesse.
Gates a une certaine crédibilité en la matière. En 1995, son essai « La vague Internet » anticipait déjà comment le web naissant allait transformer nos vies. En 2002, un autre texte sur l’« Informatique de confiance » préconisait d’intégrer la sécurité dès la conception des produits, et non après coup. Microsoft avait alors suspendu le développement pour former ses ingénieurs à coder de manière sécurisée.
Contrairement à d’autres dirigeants technologiques qui surfent sur l’hyperbole, les prises de position passées de Gates ont souvent été plus mesurées et, par conséquent, plus pertinentes.
Michael Veale, professeur de droit spécialisé dans l’IA à University College London, nuance cependant : « Je crois qu’il omet la dimension politique. Il est bien de parler d’institutions coordonnées et même d’une gouvernance mondiale de l’IA, mais cette technologie pose des questions fondamentales sur les gagnants et les perdants, socialement et financièrement, que quelques hauts fonctionnaires et chefs de communauté ne résoudront pas en se concertant. »
Gates tente néanmoins d’aborder ces enjeux. Il propose de créer des emplois « réservés aux humains », que la société choisirait délibérément de conserver malgré la capacité technique des machines à les remplacer. Il cite les métiers du soin, où l’interaction humaine possède une valeur qui dépasse la simple productivité.
Il ressuscite aussi une idée qu’il avait déjà évoquée : la taxation des robots. Cette fois, il va plus loin et suggère que les gouvernements taxent à la fois les robots et les jetons d’IA qui font fonctionner les modèles. L’objectif est d’éliminer les avantages fiscaux du remplacement des salariés par des machines. Ces recettes pourraient financer la reconversion et un meilleur filet de sécurité pour les personnes dont les emplois disparaîtront, ce que Gates considère comme inévitable.
Joanna Bryson, professeure d’éthique et de technologie à la Hertie School de Berlin, pense que Gates se trompe parfois sur l’origine des responsabilités. « Gates a raison sur de nombreux risques, comme les inégalités, la criminalité, la cybersécurité, les armes autonomes ou la relation des enfants avec l’IA, mais il les traite souvent comme des problèmes créés par l’IA elle-même, alors que beaucoup sont des problèmes de gouvernance, de pouvoir concentré et de redistribution », explique-t-elle. « La solution est de rendre les entreprises responsables de systèmes gouvernables, maintenables et sûrs, et de taxer ceux qui font de l’argent. »
La difficulté est d’obtenir un accord international simultané sur ces changements. Si un pays taxe l’automatisation tandis qu’un autre l’encourage, les entreprises délocaliseraient probablement leur activité vers les juridictions les plus favorables. Cela vaut aussi pour la proposition de Gates de créer une nouvelle organisation internationale pour gouverner l’IA, qui pourrait s’inspirer des inspections nucléaires ou des accords mondiaux sur la couche d’ozone. Gates lui-même reconnaît qu’un certain niveau de coopération entre les États-Unis et la Chine serait nécessaire, alors que ces deux pays se disputent précisément la suprématie dans cette technologie.
Même si l’honnêteté et la franchise de Gates paraissent plus crédibles que les interventions exaltées de Sam Altman ou Dario Amodei, ses craintes ne relèvent plus seulement de l’hypothèse. Des décisions prises par des modèles d’IA commencent à inquiéter.
Cet été, l’Institut de sécurité de l’IA britannique a rapporté un cas très alarmant. Lors d’un test de cybersécurité, un système d’IA de pointe a recherché des personnes réelles impliquées dans un projet de logiciel open source. Il a ensuite créé de fausses identités pour tenter de convaincre un humain d’approuver un code malveillant. Démasqué, il a tenté de dissimuler ses actes et a envisagé de créer une autre identité pour poursuivre.
Le système exécutait certes ce qu’on lui avait demandé, dans le cadre d’un test poussé. Mais l’institut y a vu un exemple clair de comportement autonome potentiellement préoccupant et non autorisé.
La crainte est que ce ne soit qu’un début. L’institut indique que la durée des tâches que les modèles d’IA peuvent accomplir de manière autonome double environ tous les huit mois. La technologie s’améliore dans tous les domaines, des affaires à la biologie. Si les systèmes peuvent aider les chercheurs à découvrir des médicaments, ils pourraient aussi, hypothétiquement, faciliter la création d’une nouvelle maladie par une personne mal intentionnée.
Anthropic impose désormais des garde-fous stricts à ses modèles les plus puissants. OpenAI a annoncé ce mois-ci avoir suspendu le développement d’un modèle non publié car il avait atteint un seuil où l’entreprise ne pouvait exclure des capacités « critiques » en matière de cybersécurité. Ces deux positions font écho aux peurs de Gates.
Cette inquiétude dépasse désormais les entreprises qui construisent les modèles. JPMorgan a averti que les agents d’IA représentent un « changement structurel », car ils sont capables non seulement de recommander des actions, mais aussi de les exécuter.
Le discours dans la Silicon Valley a évolué. En juillet, le patron d’OpenAI, Sam Altman, est allé beaucoup plus loin que Gates en déclarant que « nous sommes maintenant, en quelque sorte, dans la singularité ». Ce terme désigne la période hypothétique où le progrès technologique devient si rapide et s’auto-renforce que les conséquences deviennent de plus en plus difficiles à prédire pour les humains.
Un an plus tôt, Altman avait écrit que l’humanité avait déjà « franchi l’horizon des événements » et que « le décollage avait commencé ».
Altman peut se tromper, et il a un intérêt évident à convaincre le monde que la technologie de son entreprise change la donne. Mais Gates est beaucoup plus prudent sur le moment et la manière de ses interventions. Cela suggère qu’un changement s’est produit dans le sable mouvant de la Silicon Valley. Et cette évolution devrait nous préoccuper.