Des milliers d’employés de Google et OpenAI unissent leur voix pour exprimer des préoccupations majeures concernant l’utilisation militaire des technologies. Avec des limites claires exigées, cette initiative met en lumière les enjeux éthiques qui entourent le développement de l’intelligence artificielle.
Près de mille employés de Google et OpenAI ont signé un document collectif pour s’opposer à l’armée des États-Unis. Selon TechRadar, ces ingénieurs demandent des limites claires sur l’utilisation militaire de leurs algorithmes, rejetant fermement l’intégration de ce logiciel dans des systèmes de surveillance de masse ou des armes autonomes.
Cette protestation survient à un moment de forte pression exercée par le Pentagone sur les développeurs. Récemment, le gouvernement américain a qualifié Anthropic de risque pour sa chaîne d’approvisionnement, car l’entreprise a refusé de céder sa technologie pour surveiller les citoyens, laissant un vide que ses concurrents tentent maintenant de combler.
« Nous ne serons pas divisés » : le rejet frontal des armes autonomes
Les signataires ont formulé leur plainte autour d’un slogan clair, refusant toute division interne induite de l’extérieur. Ils dénoncent que les autorités tentent de monter les entreprises les unes contre les autres en utilisant la peur qu’une autre société signe en premier, une stratégie qui ne fonctionne que si les employés ne communiquent pas entre eux.
Le texte fait référence au « Department of War » pour désigner le Département de la Défense actuel, montrant un rejet évident de ses demandes. Les programmeurs estiment que les modèles actuels sont si puissants que ces négociations dépassent un simple accord commercial, exigeant des lignes rouges inaliénables pour protéger les droits civils les plus fondamentaux.
Ce niveau d’organisation interne rappelle les événements survenus au sein des bureaux de Mountain View il y a six ans. En 2018, des milliers de travailleurs ont mis fin au Projet Maven en bloquant un contrat militaire destiné à utiliser des systèmes d’apprentissage automatique pour analyser des vidéos enregistrées par des drones dans différentes zones de conflit international.
Cet épisode a conduit à l’établissement de principes éthiques promettant de ne pas créer de logiciels conçus pour causer des dommages physiques. Cependant, les gouvernements intensifient leurs efforts pour déployer des modèles beaucoup plus volumineux, ravivant la crainte de laisser le contrôle des objectifs militaires entre les mains de codes informatiques à réponse imprévisible.
Permettre aux serveurs de prendre des décisions tactiques soulève d’énormes interrogations sur la sécurité globale. Différentes simulations récentes montrent que l’intelligence artificielle tend à privilégier des attaques nucléaires dans des scénarios de conflit, révélant une agressivité de base qui effraie même ceux chargés de programmer et d’entraîner ces outils complexes.
L’industrie actuelle doit faire face à des débats délicats, allant de l’impact des algorithmes sur l’emploi à leur intégration dans les systèmes d’armement. Au-delà du domaine professionnel, les employés avertissent que leurs systèmes permettent de surveiller des populations entières grâce à l’analyse de données de téléphones mobiles et de caméras, annihilant ainsi la privauté quotidienne de manière alarmante.
Le secteur de l’armement sait qu’il doit se moderniser rapidement et de nombreuses voix influentes reconnaissent que les équipements traditionnels sont progressivement remplacés par des réseaux neuronaux. Face à ce changement paradigmatique imminent, le Pentagone met une pression constante sur Google et OpenAI pour conclure des accords multimillionnaires afin de combler le vide laissé par d’autres entreprises pour des raisons éthiques.
Voir des travailleurs de corporations concurrentes signer un même document illustre la gravité de la situation. Les personnes chargées de rédiger le code le plus avancé au monde refusent de rivaliser pour voir qui cède le premier, établissant un front uni contre les demandes gouvernementales de surveillance et d’armement.