C’est amusant jusqu’à ce que quelqu’un perde ses vêtements : L’IA générative est en train de balayer l’industrie technologique, les entreprises se précipitant pour l’utiliser pour résoudre des problèmes qui n’existent pas. On pourrait même affirmer que la technologie cause plus de problèmes qu’elle n’en résout, en particulier lorsque les entreprises insistent pour commercialiser des produits qui ne sont pas prêts à être consommés par le public. La Loterie de l’État de Washington l’a appris à ses dépens en début de semaine.
Dans le cadre d’une campagne promotionnelle intitulée « Test Drive a Win », les responsables de la loterie de l’État de Washington ont créé une application Web interactive pour aider les clients à se visualiser en train d’utiliser leurs gains lors de leurs vacances de rêve. Les utilisateurs pourraient télécharger un selfie, puis l’IA générerait une image sur le thème d’un type de vacances tout en utilisant le visage de l’utilisateur comme sujet. L’ensemble du projet a mal tourné lorsque l’IA a craché un nu.
Une femme d’Olympia nommée Megan (nom de famille anonyme) a déclaré au Jason Rantz Show qu’elle avait utilisé l’application pour créer une image de vacances « Nager avec les requins ». Elle affirme avoir été choquée lorsque son visage a été projeté sur le corps d’une femme seins nus assise sur un lit. La photo montre des poissons et des coraux générés par l’IA décorant la scène ainsi que le logo de la Washington State Lottery dans le coin inférieur droit, prouvant qu’ils proviennent du site promotionnel.
« Nos impôts servent à payer ça ! J’ai été complètement choquée », a déclaré Megan à Rantz sur KTTH. « C’est pour le moins inquiétant. Je pense aussi que celui qui en est responsable devrait être licencié. »
Elle a fourni à Rantz une version censurée de la photo (ci-dessous), mais KTTH n’a pas pu l’authentifier.
Megan a déclaré qu’elle avait parlé de l’incident à un ami qui connaissait quelqu’un qui travaille pour la loterie. Vraisemblablement, cette personne a transmis l’anecdote aux responsables de la loterie parce qu’un porte-parole a confirmé plus tard qu’il avait reçu le rapport.
Rantz a également tenté de joindre la commission de loterie et, trois heures plus tard, l’application Web était hors ligne. Un porte-parole a ensuite fourni à Rantz une déclaration indiquant que la commission avait travaillé avec un fournisseur d’IA tiers non spécifié et élaboré un « ensemble complet de règles » que l’IA devait suivre. Ces conditions excluaient explicitement l’utilisation de la nudité.
« Avant le lancement, nous avons convenu d’un ensemble complet de règles pour régir la création d’images, notamment que les personnes représentées sur les images soient entièrement habillées », a déclaré le porte-parole. « Nous n’avons pas vu l’image que l’IA a fournie à cet utilisateur, mais par prudence, nous avons fermé le site Web. »
Rantz a demandé quand exactement les responsables avaient reçu le rapport sur la nudité et pourquoi ils n’avaient pas fermé l’application immédiatement. Dans une déclaration ultérieure, la commission a déclaré avoir entendu parler de l’incident plus tôt dans la semaine et avoir immédiatement contacté les développeurs pour s’assurer que les paramètres et les garanties étaient en place, ce qui était le cas.
Cependant, après de plus amples discussions, ils ont décidé qu’un incident comme celui-ci était de trop et ont décidé de fermer le site Web, s’assurant que cela ne se reproduirait plus.
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :
