Un nouvel outil d’édition d’images de Midjourney promet de révolutionner la création numérique, permettant à ses utilisateurs de modifier n’importe quelle image sur Internet grâce à une intelligence artificielle avancée. Cependant, des préoccupations subsistent quant à son utilisation potentiellement abusive et les mesures de sécurité nécessaires.
Pourquoi c’est important : Midjourney, la startup à l’origine de l’un des modèles d’IA les plus populaires de transformation de texte en image, vient d’annoncer des projets pour déployer un nouvel outil web amélioré permettant aux utilisateurs de modifier n’importe quelle image sur Internet grâce aux capacités génératives puissantes de l’entreprise.
Dans un message publié sur le serveur Discord officiel de Midjourney la semaine dernière, le PDG David Holtz a révélé les détails de cette prochaine fonctionnalité « d’éditeur d’images ». Les utilisateurs pourront télécharger n’importe quelle image provenant du web. L’outil utilisera alors les avancées récentes en « réseaux de contrôle de profondeur » pour changer intelligemment la forme et les textures d’un objet selon une description textuelle.
« Il conserve la forme de la scène/de l’objet mais repeint toutes les textures/couleurs/détails selon votre demande », indique la description partagée par Holtz.
Midjourney sur le point de lancer un nouvel éditeur d’images qui vous permet de télécharger et d’éditer n’importe quelle image.
Mais, cela sera fortement restreint et modéré ð pic.twitter.com/xYcTWF36Qe
– Dreaming Tulpa � »ï¿½ » (@dreamingtulpa) 19 octobre 2024
Il existe toujours des craintes que des outils comme ceux-ci puissent être exploités à des fins malveillantes, comme la création de deepfakes trompeurs ou la violation massive des droits d’auteur. Malgré cela, les États-Unis n’ont toujours pas de loi criminalisant les deepfakes au niveau fédéral – bien qu’au moins une douzaine d’États aient adopté des lois contre l’usurpation d’identité par IA, et que beaucoup d’autres envisagent de faire de même.
Holtz semble reconnaître la gravité de la situation, disant dans son post Discord que Midjourney restreindra initialement l’accès à un « sous-ensemble de la communauté actuelle » pendant que l’entreprise travaille à améliorer les systèmes de surveillance humaine et IA pour prévenir les abus de l’éditeur. Cependant, il admet que la société n’est « pas sûre » de la façon de mettre en œuvre de telles restrictions. L’entreprise sonde actuellement sa base d’utilisateurs pour obtenir des retours sur qui devrait avoir un accès anticipé.
Pour leur mérite, Midjourney a été à l’avant-garde sur un front en adoptant les normes de métadonnées du type de source numérique IPTC qui signalent les images générées par IA. Mais l’entreprise accuse un retard sur d’autres, comme Adobe, qui utilisent des technologies de provenance plus robustes telles que C2PA, une autre technologie de métadonnées qui retrace l’historique complet de l’édition d’une image.
Il convient de mentionner que Midjourney a lancé un nouveau site web en août qui permet à quiconque de générer des images par IA grâce à des requêtes textuelles en s’inscrivant simplement avec un compte Google. Des plans d’abonnement sont disponibles après une période d’essai gratuite initiale.