Les prédictions occupent une place centrale dans le fonctionnement de l’intelligence artificielle, particulièrement via le machine learning, qui permet aux ordinateurs de prendre des décisions et d’anticiper des événements. Ces mécanismes influencent profondément la vie quotidienne, depuis l’évaluation des performances professionnelles jusqu’aux refus de prêts, d’emplois ou d’hypothèques, en passant par les suggestions sur les applications de rencontre.
Des outils de pouvoir masqués
Contrairement aux prévisions sur des molécules pour découvrir de nouveaux antibiotiques, celles concernant les comportements humains ouvrent la porte à la manipulation. Les marchés de prédiction en États-Unis illustrent cette vulnérabilité : en février, six comptes anonymes ont empoché 1,2 million de dollars en pariant sur une attaque contre l’Iran, certains financés peu de temps auparavant.
Les annonces des dirigeants technologiques sur l’omniprésence future de l’IA agissent comme des injonctions implicites, orientant les actions collectives vers une réalité qui leur profite. Croire ces visions les rend auto-réalisatrices, transformant les suppositions en faits.
Injustices invisibles et limites techniques
Les prédictions algorithmiques érigent un monde opaque où contester une décision devient impossible, faute de critères vérifiables. Un refus de prêt basé sur une anticipation future échappe à tout recours, favorisant des inégalités cachées. Un article récent du Harvard Business Review met en doute les gains d’efficacité promis par l’IA : les erreurs des large language models (LLMs) prolongent souvent les tâches au lieu de les accélérer.
Face à ces dérives, il faut interroger les affirmations des entreprises, souvent dictées par le marketing. Les prédictions sociales, contrairement aux bulletins météo, modèlent la réalité qu’elles décrivent, comme une hausse de prime d’assurance due à un risque anticipé, aggravant le stress et les résultats sanitaires.
Carissa Véliz, professeure associée à la Faculté de philosophie et à l’Institut for Ethics in AI de l’University of Oxford, ainsi que tutrice au Hertford College, alerte sur ces enjeux dans son ouvrage consacré aux prophéties, des oracles antiques à l’IA moderne.