Google, autrefois guidé par le principe « Don’t be evil », a opéré un virage notable en supprimant une clause cruciale de ses principes en matière d’IA, qui interdisait le développement d’applications nuisibles, notamment les armes. Cette évolution soulève des préoccupations quant à la direction éthique que prend l’entreprise.
En bref : Google a parcouru un long chemin depuis ses débuts où « Ne soyez pas malveillant » était son principe directeur. Ce départ a été noté à plusieurs reprises pour diverses raisons. Dans son dernier éloignement de son éthique d’origine, l’entreprise a discrètement supprimé un passage clé de ses principes en matière d’IA qui s’engageait auparavant à éviter l’utilisation de l’IA dans des applications potentiellement nuisibles, y compris les armes.
Ce changement, signalé pour la première fois par Bloomberg, marque un tournant par rapport à la position antérieure de l’entreprise sur le développement responsable de l’IA.
La section désormais supprimée, intitulée « Applications de l’IA que nous ne poursuivrons pas », affirmait explicitement que Google s’abstiendrait de développer des technologies « qui causent ou sont susceptibles de causer un mal général », les armes étant un exemple spécifique.
En réponse aux questions relatives à ce changement, Google a renvoyé à un article de blog publié par James Manyika, vice-président senior chez Google, et Demis Hassabis, qui dirige Google DeepMind.
L’article affirmait que les démocraties devraient mener le développement de l’IA, guidées par des valeurs fondamentales telles que la liberté, l’égalité et le respect des droits de l’homme. Il appelait également à une collaboration entre entreprises, gouvernements et organisations partageant ces valeurs pour créer une IA qui protège les personnes, favorise la croissance mondiale et soutienne la sécurité nationale.
Ce changement dans les principes de l’IA de Google n’est pas passé inaperçu chez les experts du domaine. Margaret Mitchell, ancienne co-responsable de l’équipe éthique de l’IA de Google et actuelle scientifique en chef de l’éthique chez Hugging Face, a déclaré à Bloomberg qu’elle était préoccupée par les implications de la suppression de la clause « dommages ». « [Cela] signifie que Google travaillera probablement maintenant au déploiement de technologies pouvant tuer des personnes », a-t-elle déclaré.
La révision des principes de l’IA de Google s’inscrit dans une tendance plus large parmi les géants de la technologie à abandonner des positions éthiques précédemment établies. Des entreprises comme Meta Platforms et Amazon ont récemment réduit leurs efforts en matière de diversité et d’inclusion, citant des priorités obsolètes ou en évolution. De plus, Meta a annoncé le mois dernier qu’elle mettrait fin à son programme de vérification des faits par des tiers aux États-Unis.
Bien que Google ait soutenu jusqu’à très récemment que son IA n’était pas utilisée pour nuire aux humains, la société s’est progressivement dirigée vers une collaboration accrue avec des entités militaires. Ces dernières années, l’entreprise a fourni des services cloud aux armées américaine et israélienne, des décisions qui ont suscité des protestations internes de la part des employés.
Google s’attend certainement à recevoir des tests pour sa dernière position. Plus probablement, elle a conclu que les avantages de son nouveau positionnement l’emportent sur les inconvénients. Le géant technologique peut désormais rivaliser plus directement avec des concurrents déjà impliqués dans des projets d’IA militaires, pour commencer. De plus, ce changement pourrait entraîner un financement accru de la recherche et du développement provenant de sources gouvernementales, ce qui accélérerait potentiellement les avancées de Google en matière d’IA.