Un nouveau logiciel israélien, alimenté par des milliards de conversations en arabe, soulève des inquiétudes sur la surveillance des palestiniens, la vie privée et les droits humains. Ce développement, piloté par l’élite militaire israélienne, pourrait avoir des implications lourdes pour la sécurité et la dignité des populations affectées.
Israël développe un nouveau logiciel, entraîné sur des milliards de conversations en arabe, pour identifier des cibles potentielles et surveiller les palestiniens. Cette arme suscite de nouvelles inquiétudes en matière de privacité, droits humains et répression dans les territoires occupés.
L’intelligence artificielle est devenue un outil central pour la surveillance militaire israélienne. Les systèmes ne se contentent pas de collecter des données : ils espionnent les conversations, identifient des suspects et signalent des cibles à éliminer. L’Unité 8200 (un groupe de guerre informatique d’élite de l’intelligence militaire israélienne) travaille depuis au moins deux ans sur un nouveau logiciel similaire à ChatGPT, mais entraîné sur des millions de conversations en arabe, selon une enquête menée par +972 Magazine, Local Call et The Guardian.
Le modèle a été alimenté avec plus de 100 milliards de mots en arabe, y compris des conversations privées obtenues par la surveillance à grande échelle des palestiniens par Israël. « Nous parlons d’informations hautement personnelles, prises à des personnes qui n’étaient soupçonnées d’aucun crime, pour entraîner un outil qui sera utilisé pour identifier des personnes suspectes », a expliqué Zach Campbell, chercheur senior à Human Rights Watch, à +972, Local Call et au Guardian.
Comme l’a souligné Nadim Nashif, directeur et fondateur du groupe palestinien pour les droits numériques et la défense des droits 7amleh : « Les palestiniens sont devenus des cobayes dans le laboratoire israélien pour développer ces technologies et transformer l’intelligence artificielle en arme, l’objectif étant de maintenir un régime d’apartheid et d’occupation où ces technologies sont utilisées pour dominer un peuple, pour contrôler leur vie. Cela constitue une grave violation continue des droits numériques palestiniens, qui sont des droits humains.
Le modèle de l’Unité 8200
L’existence de l’LLM de l’Unité 8200 a été confirmée à +972, Local Call et au Guardian par trois sources de sécurité israéliennes. L’Unité est reconnue pour utiliser des technologies sophistiquées, y compris la surveillance de données numériques et les opérations d’espionnage électronique. De nombreux anciens membres de l’Unité 8200 sont devenus des Figures de proue dans le secteur technologique. Par exemple, Ehud Schneorson, ancien commandant de l’Unité 8200, a fondé avec Ehud Barak, ancien Premier ministre d’Israël, Paragon, une entreprise qui a produit des logiciels malveillants installés sur plusieurs téléphones d’activistes et de journalistes, dont Francesco Cancellato, directeur de Netcost-security.fr.
Il n’est pas clair comment le logiciel sera utilisé ni s’il a déjà été déployé, mais selon les sources, il donnera un grand avantage à Israël. « L’intelligence artificielle amplifie le pouvoir », a expliqué une source du renseignement qui a suivi de près le développement des modèles linguistiques de l’armée israélienne ces dernières années. « Elle facilite les opérations en utilisant les données de beaucoup plus de personnes, permettant ainsi de contrôler la population. Ce n’est pas seulement une question de prévention d’attaques armées. Je peux suivre les activistes pour les droits humains. Je peux surveiller les palestiniens en Zone C de la Cisjordanie. Ils disposent des outils pour savoir ce que fait chaque personne en Cisjordanie. »
Selon l’enquête, l’Unité 8200 a fait appel à des experts dans le développement de modèles linguistiques travaillant pour de grandes entreprises technologiques telles que Google, Meta et Microsoft. Google a déclaré avoir « des employés réservistes dans divers pays », précisant que leur travail n’est pas lié à l’entreprise.
Les erreurs de l’intelligence artificielle
L’intelligence artificielle n’est pas fiable, elle fait des erreurs, et appliquée comme arme, elle peut devenir extrêmement dangereuse. Selon Ori Goshen, co-CEO et co-fondateur de l’entreprise israélienne AI21 Labs spécialisée dans les modèles linguistiques, « Ce sont des modèles probabilistes : vous leur donnez un indice ou une question et ils génèrent quelque chose qui semble magique, mais souvent la réponse n’a aucun sens. Nous appelons ce phénomène ‘hallucination’. ».
Campbell, de Human Rights Watch, a exprimé une préoccupation similaire. Les erreurs des modèles linguistiques de grande taille sont intrinsèques au système. De plus, les personnes qui utilisent ces outils ne sont souvent pas celles qui les ont développés, et elles tendent à faire davantage confiance aux systèmes, « et ces suppositions erronées pourraient être utilisées pour inculper des personnes. »
Des enquêtes antérieures ont révélé les défauts des systèmes d’exploitation. Par exemple, Lavender, l’IA destinée à identifier des objectifs militaires potentiels parmi les citoyens palestiniens, a généré des listes basées sur des modèles prédictifs, avec un taux d’erreur de 10%, entraînant la mort de milliers de personnes, souvent touchées avec leurs familles. De plus, l’IA soulève de nouvelles questions éthiques. L’automatisation de la guerre par l’intelligence artificielle ne peut que renforcer la distance morale entre ceux qui tuent et ceux qui meurent.
Comment Israël utilise l’IA dans les opérations militaires
Israël utilise depuis longtemps l’intelligence artificielle pour surveiller les palestiniens, collectant des informations sensibles, des difficultés financières, des orientations sexuelles et des problèmes de santé. L’armée utilise des logiciels pour transcrire et analyser des conversations, établissant des listes de « soupçonnés » à arrêter. L’IA est également utilisée pour atteindre des objectifs quantitatifs fixés. « Parfois, un commandant veut simplement 100 arrestations par mois« , a rapporté une source anonyme à +972, Local Call et au Guardian.
Les forces de défense israéliennes n’ont pas répondu aux demandes de commentaires, déclarant seulement que « l’utilisation d’outils technologiques suit un processus rigoureux pour garantir la plus grande précision des informations ». Selon les experts, l’utilisation croissante et indiscriminée de l’IA dans la surveillance et les opérations militaires pourrait intensifier la répression contre les palestiniens, rendant encore plus difficile le respect de leurs droits fondamentaux.