Pour utiliser Midjourney maintenant, vous devez payer : « Les utilisateurs créent des images dangereuses, il faut des règles »

Pour utiliser Midjourney maintenant, vous devez payer : "Les utilisateurs créent des images dangereuses, il faut des règles"

Avant de pouvoir créer 25 images gratuitement, il vous faut désormais un abonnement d’environ 7 euros par mois pour le faire. L’entreprise veut mettre un terme aux fausses nouvelles générées par l’IA.

MI-JOURNÉE | Invite : « Décrivez Midjourney dans une image »

Midjourney est devenu l’usine à générer de fausses images qui semblent réelles. Pour cette raison, l’entreprise a décidé de tout bloquer en essayant de comprendre rapidement comment résoudre son plus gros problème, qui est en même temps son point fort. Après les arrestations de Donald Trump, le pape portant Moncler, et de Vladimir Poutine agenouillé devant Xi Jinping (toutes de fausses images) le mardi 28 janvier, la société a interrompu les essais gratuits en raison de « demandes extraordinaires et d’abus de preuves », a écrit David Holz, PDG de l’entreprise, sur Discord, expliquant également que les utilisateurs sans abonnement exagéraient la technologie et que les « nouvelles mesures de sécurité pour éviter les abus ne semblent pas suffisantes ».

Bloc de mi-parcours

Auparavant sur Midjourney n’importe qui pouvait générer 25 images gratuitement, maintenant pour ce faire il faudra payer un abonnement d’environ 7 euros par mois. La décision intervient peu après la dernière mise à jour du 15 mars qui a transformé le logiciel en une machine capable de produire des images ultra-réalistes, corrigeant également quelques défauts qui permettaient de reconnaître l’intervention de l’IA. Ce n’est pas parfait, c’est encore faux, mais beaucoup moins. Il ne parvient pas à reproduire les écritures et les logos, et exagère souvent les expressions faciales, mais ce sont des défauts qui peuvent être négligés au premier coup d’œil.

Avant la mise à jour, il n’était pas capable de reproduire les mains, par exemple, ils sortaient avec sept doigts, mais maintenant c’est amélioré, il parvient également à générer des portraits réalistes de personnes célèbres. Les utilisateurs l’ont découvert et une course pour créer les fausses nouvelles les plus convaincantes a commencé. Par exemple, la fausse image de Donald Trump arrêté qui a été publiée sur Twitter avec cette légende : « #BREAKING : Donald J. Trump a été arrêté à #Manhattan ce matin. » Et les photos n’ont pas été créées par accident. Les responsables de New York l’a accusé d’avoir acheté le silence de la star du porno Stormy Daniels et de lui avoir donné 130 000 dollars pour l’empêcher de révéler leur relation à mi-campagne pour l’élection présidentielle de 2016. Midjourney est ainsi devenu un outil de création de désinformation préventive qui pourrait également comporter de réels risques. aperçus dans les messages subversifs publiés sous la fausse arrestation de Trump, les fans se mobilisaient déjà pour défendre l’ex-président à la Capitol Hill.

Le difficile succès de l’intelligence artificielle

« Il y a eu une combustion lente de l’intelligence artificielle depuis un certain temps, et maintenant elle brûle », a déclaré Katerina Cizek du MIT Open Documentary Lab, qui étudie l’interaction homme-ordinateur, au Washington Post. Et en fait non seulement Midjourney, ce matin aussi ChatGPT, l’ingénieux chatbot OpenAI, s’est retrouvé confronté à un nouveau problème. Le garant de la confidentialité a annoncé dans un communiqué de presse le blocage du logiciel en Italie. Selon les déclarations, ChatGPT collecte des données personnelles sans aucune justification et ne dispose pas de système permettant de vérifier l’âge des utilisateurs.

Mercredi sur la chaîne Discord, Holz a expliqué qu’ils travaillaient à créer de nouvelles règles « parce que les images deviennent de plus en plus réalistes et les outils de plus en plus puissants. Il y a une discussion en cours, pour devenir soit Disney soit Wild West, et tout ce qui se trouve entre les deux reste à définir », a-t-il déclaré. « Nous sommes entre ces deux pôles en ce moment, et je ne sais pas comment en penser. » La société a ajouté qu’elle travaillait déjà à affiner les outils de modération de l’IA pour bloquer les utilisations incorrectes ou nuisibles de la technologie.

Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :

YouTube video