Un Roomba prend une photo d’une femme aux toilettes et tout est posté sur Facebook

Un Roomba Prend Une Photo D'une Femme Aux Toilettes Et

C’est une histoire de machines avides de données, de travailleurs sous-payés et de contrats douteux, qui se font espionner par des appareils achetés.

Une femme aux toilettes en T-shirt lavande et sous-vêtements baissés, un enfant sur le ventre au milieu d’un couloir, des pieds, des jambes, des chambres vides, des chambres avec des chiens qui courent dans la solitude. Toutes les images ont le même cadrage, comme si elles avaient été prises par quelqu’un allongé sur le sol regardant d’en bas. Cependant, les photos n’ont pas été prises par un humain mais par un aspirateur.

Pour être précis à partir du Roomba J7 d’iRobot, le plus grand fournisseur mondial d’aspirateurs robots acheté par Amazon pour 1,7 milliard de dollars. Désormais, il peut sembler absurde qu’un robot aspirateur se transforme en un espion omniprésent, mais tout s’éclaire en démontant une histoire faite de machines avides de données, de travailleurs sous-payés dans des pièces sans fenêtre, et de contrats incompréhensibles bâtis sur une sémantique trompeuse. . Allons étape par étape.

Tout commence avec 15 images

Depuis janvier 2022, MIT Technology Test reçoit 15 captures d’écran prises par un aspirateur puis publiées sur des groupes de médias sociaux fermés. Comment est-ce possible? En réalité, le voyage des clichés volés n’est même pas trop long. Les aspirateurs photographient tout, puis envoient les images à Scale Ai, une start-up où des travailleurs (humains) du monde entier étiquettent les données, l’audio et les photos.

Les données sont la première étape, elles servent à rendre les robots plus performants, et capables de développer le machine learning pour aller bien au-delà de la simple aspiration. Cependant, ils ne font pas tout par eux-mêmes, l’intervention humaine est toujours nécessaire pour atteindre les objectifs de l’entreprise, et c’est là qu’interviennent les travailleurs de Scale Ai. « Il y a toujours un groupe d’humains assis quelque part, généralement dans une pièce sans fenêtre, faisant juste un tas de pointer-cliquer, ‘Ouais, c’est un objet ou ce n’est pas un objet' », a expliqué Matt. Beane, professeur adjoint à l’Université de Californie à Santa Barbara qui étudie le travail humain derrière la robotique.

Et les 15 images envoyées au MIT ne sont qu’une infime partie de l’écosystème des données collectées. En fait, IRobot a déclaré avoir partagé plus de 2 millions d’images avec Scale AI seul. Et puis il y a un autre pool non qualifié de captures d’écran envoyées à d’autres plates-formes d’annotation de données. James Baussmann, un porte-parole d’iRobot, a également déclaré dans un e-mail que la société avait « pris toutes les précautions pour s’assurer que les données personnelles sont traitées en toute sécurité et conformément à la loi applicable », mais les captures d’écran sont sorties du circuit protégé.

Machines gourmandes en données

Depuis le début, iRobot a tout misé sur la vision par ordinateur. Son premier appareil automatique, le Roomba 980, a fait ses débuts en 2015. Il a été le premier à cartographier une maison, à ajuster sa stratégie de nettoyage en fonction de la taille de la pièce et à identifier les obstacles à éviter. Mais la vision artificielle des robots aspirateurs a un prix qui n’est pas le prix de vente. Pour bien fonctionner, il doit être entraîné sur un ensemble de données vaste et diversifié capable de s’adapter à n’importe quelle maison, malgré les différences de périmètre ou de répartition des objets dans une pièce.

Le problème est que les données collectées peuvent être envahissantes. « Ils ont un matériel puissant, des capteurs puissants », explique Dennis Giese, doctorant à l’Université Northeastern qui étudie les vulnérabilités de sécurité des appareils de l’Internet des objets, à MIT Technology Test. « Et ils peuvent courir dans votre maison et vous n’avez pas façon de les contrôler, en particulier les appareils dotés de caméras avancées et d’intelligence artificielle, comme la série Roomba J7 d’iRobot.Ainsi, pour collecter toutes les données capables d’alimenter des machines affamées, vous devez espionner l’intérieur des maisons.

Les « étiqueteurs » entrent en jeu

L’autre grand protagoniste de cette histoire est Scale AI, une start-up qui s’occupe de l’annotation de données, un secteur jeune et en pleine croissance qui devrait atteindre en 2030 une valeur marchande de 13,3 milliards de dollars. La nécessité d’alimenter les intelligences artificielles en informations a créé un nouveau métier, celui d’étiqueteur de données. Le profil moyen est toujours le même que pour tous les métiers naissants du XIXe siècle. Faibles salaires et emploi dans les pays en développement.

En effet, Scale Ai, le leader du marché, a recruté des milliers de travailleurs issus de pays moins riches. En 2020, il a ensuite inauguré le projet IO et a montré à son armée ces images ascendantes capturées par les yeux cachés à l’intérieur des maisons. Les tagueurs de leurs groupes Facebook ou Discord ont commencé à discuter du projet IO et certaines captures d’écran ont été divulguées. L’entreprise n’a pas tardé à souligner qu’il s’agit d’une atteinte à la vie privée et que les employés ont signé des accords de confidentialité sur le matériel. Mais comment contrôlez-vous des milliers de travailleurs à distance partout dans le monde. Il manque un système de sécurité adéquat, et il manque justement au sein d’une entreprise qui voit tout dans les maisons de chacun.

L’astuce habituelle pour l’arnaque parfaite

Le dernier acteur dans le scandale des aspirateurs est les acheteurs involontaires. Les astuces sont toujours les mêmes, des réglementations peu claires, des consignes difficiles, des différences sémantiques minimes qui traduisent alors la possibilité ou non d’être espionné chez soi. Par exemple, distinction entre partage et vente de données, ou entre confidentialité et sécurité. Pour soutenir ce système, il existe également une législation faible et trop facilement contournable, et pour cette raison, des personnes sans le savoir donnent leur consentement aux robots pour les photographier alors qu’ils sont assis sur les toilettes.