Une récente mise à jour des « principes de l’IA » de Google suscite des interrogations. Alors que l’engagement de ne pas développer d’armes IA semblait clair, la nouvelle version élimine toute mention des applications à ne pas poursuivre, ouvrant la porte à des intentions peu rassurantes tout en préservant une façade de responsabilité sociale.
Le 4 février, Google a mis à jour ses « principes de l’IA », un document précisant l’utilisation de l’intelligence artificielle dans ses produits et services. L’ancienne version était divisée en deux sections : « Objectifs pour les applications IA » et « Applications IA que nous ne poursuivrons pas », et promettait clairement de ne pas développer d’armes ou d’outils de surveillance IA.
La mise à jour, d’abord remarquée par The Washington Post, se distingue par la disparition complète de la section « Applications IA que nous ne poursuivrons pas ». Désormais, le document se concentre uniquement sur « ce que Google fera », sans promesse sur « ce que Google ne fera pas ».
Pourquoi cela est-il significatif ? En effet, si vous déclarez que vous ne poursuivrez pas des armes IA, cela signifie que vous ne pouvez pas les poursuivre. C’est assez clair. Toutefois, si vous affirmez que vous allez adopter des « designs rigoureux, tests, suivis et mesures de protection pour atténuer les résultats non voulus ou nuisibles et éviter les biais injustes », alors vous pouvez poursuivre ce que vous voulez et simplement affirmer que vous avez employé des protections rigoureuses.
De même, lorsque Google annonce qu’il mettra en œuvre un « encadrement humain approprié », il est impossible de savoir ce que cela signifie réellement. Google est celui qui décide exactement ce qu’est un encadrement humain approprié. Cela pose problème car cela signifie que l’entreprise ne fait en réalité aucune promesse ni ne fournit d’informations concrètes. Elle ouvre simplement la voie à une plus grande liberté d’action, tout en essayant de donner l’impression de responsabilité sociale.
L’implication de Google dans le Projet Maven du Département de la Défense américain en 2017 et 2018 a conduit à l’élaboration du document original sur les principes de l’IA. Des milliers d’employés ont protesté contre ce projet militaire, et en réponse, Google n’a pas renouvelé l’accord et a promis de ne plus poursuivre le développement d’armes IA.
Cependant, quelques années plus tard, la plupart des concurrents de Google s’engagent dans ce type de projets, avec Meta, OpenAI et Amazon permettant tous une certaine utilisation militaire de leurs technologies IA. Avec l’augmentation de la flexibilité de ses nouveaux principes de l’IA, Google est effectivement libre de revenir dans la course et de générer des bénéfices militaires. Il sera intéressant de voir si les employés de Google prendront la parole à ce sujet dans un avenir proche.