La police chinoise a réprimé un gang qui utilisait ChatGPT pour créer de fausses vidéos. ChatGPT est un chatbot AI développé par Microsoft – soutenu par OpenAI qui permet aux utilisateurs de générer des réponses basées sur les invites et les questions des utilisateurs. Le gang avait illégalement acheté un lot de comptes vidéo depuis mai 2023 pour utiliser ChatGPT pour créer de fausses vidéos.
Interdiction de ChatGPT en Chine
Les régulateurs chinois auraient restreint l’accès à ChatGPT. Cependant, les entreprises technologiques et les écoles chinoises vont de l’avant avec le développement de robots d’IA nationaux. ChatGPT n’est pas officiellement disponible en Chine, où le gouvernement applique un pare-feu détaillé et une censure Internet stricte. Mais beaucoup y avaient accédé via des VPN. De plus, certains développeurs tiers avaient produit des programmes qui donnaient un accès au service. Les recherches de ChatGPT sur les plateformes chinoises ne renvoient plus de résultats. Cependant, les programmes de contournement avaient été désactivés ou remplacés par un test indiquant qu’ils avaient été suspendus pour « violation des lois et réglementations applicables ».
L’interdiction de ChatGPT en Chine n’est pas une surprise car la nation asiatique est assez stricte avec ses lois. Le gouvernement chinois a réprimé la propagande politique et la désinformation. Selon les retours, il considère la capacité de ChatGPT à générer du texte comme une menace pour son contrôle sur le flux d’informations.
Le cas de la fraude vidéo ChatGPT
Après une enquête, la police de Shaoxing a découvert que le gang avait illégalement acheté un lot de comptes vidéo depuis mai 2023 pour utiliser ChatGPT afin de créer de fausses vidéos. La police n’a pas fourni de détails sur le contenu des fausses vidéos ni sur la manière dont elles ont été utilisées. Cependant, ce n’est pas la première fois que ChatGPT est utilisé pour créer de fausses nouvelles en Chine. En mai 2023, la police chinoise a arrêté un homme qui utilisait ChatGPT pour créer de fausses informations sur un accident de train. Il s’agit de l’une des premières mesures d’exécution en vertu d’une loi chinoise récemment promulguée réglementant les « deep fakes » générés par l’IA – des images numériques, des vidéos ou d’autres médias apparemment réalistes mais fabriqués.
Selon un rapport de police de la province de Gansu, dans le nord-ouest de la Chine, un homme identifié uniquement par son nom de famille, Hong, a utilisé ChatGPT pour créer un faux article sur un accident qui aurait entraîné la mort de neuf ouvriers du bâtiment à Gansu. Cette histoire est devenue virale et même des sources d’information légitimes ont été trompées par la fausse histoire.
L’unité locale de la police de la cybersécurité a été alertée de l’article sur l’accident de train – publié le 25 avril. Elle a ensuite lancé une enquête sur la question. Hong a ensuite admis avoir utilisé ChatGPT pour créer de fausses informations sur les accidents de train avant de les publier en ligne. L’arrestation de Hong est la première détention depuis l’entrée en vigueur en janvier de la nouvelle réglementation chinoise sur les fausses technologies profondes. La loi vise à empêcher l’utilisation abusive de technologies susceptibles d’altérer les données faciales et vocales. Et bien que ChatGPT soit interdit en Chine, il existe des solutions de contournement telles que les réseaux privés virtuels.
La police chinoise démantèle un gang de rumeurs
De plus, le 2 juin, la police de Shangyu a découvert lors d’une enquête en ligne qu’un utilisateur de l’application nommé « Shangyi Explanation » avait publié une vidéo sur un incendie dans le parc industriel de Shangyu. Le nombre de vues de la vidéo a augmenté rapidement en peu de temps. La police a revérifié la vidéo et a découvert qu’il s’agissait de fausses nouvelles. La police de Shangyu a également repéré un groupe technologique dans une autre province lié au crime. Le 5 juin, la police s’est précipitée dans d’autres provinces et a arrêté trois suspects.
Après enquête, le groupe de relations publiques du gang a acquis illégalement un certain nombre de comptes vidéo sur Internet depuis mai. Il a fusionné les vidéos et produit de fausses vidéos via la technologie ChatGPT pour publier le réseau afin de gagner du trafic. Le trafic a généré des bénéfices pour le groupe. Jusqu’à présent, le gang a acheté illégalement plus de 1 500 comptes vidéo et publié plus de 3 000 fausses vidéos. Le suspect arrêté a depuis avoué le crime, mais la police continue de chercher d’autres suspects.
Débat sur la réglementation de l’IA
L’interdiction de ChatGPT en Chine et les préoccupations concernant l’authenticité ont déclenché un débat sur la réglementation de l’IA. En janvier 2023, l’Administration du cyberespace de Chine a promulgué de nouvelles réglementations pour limiter l’utilisation de la technologie de l’IA. L’autorité italienne de protection des données, Garante, a imposé une interdiction temporaire de ChatGPT, un chatbot qui utilise l’IA pour générer des textes qui semblent avoir été créés par des humains et des jeux informatiques.
Le chien de garde était moins préoccupé par l’utilisation de l’IA que par les violations de la législation sur la protection des données. Garante a ensuite déclaré à la société soutenue par Microsoft Corp derrière ChatGPT, OpenAI, qu’elle devrait être plus transparente avec ses utilisateurs sur la façon dont leurs données étaient traitées. Il a également déclaré que la société américaine devait obtenir l’autorisation des utilisateurs pour certains utilisateurs. Si les données des utilisateurs devaient être utilisées pour développer davantage le logiciel, il faudra alors l’autorisation des utilisateurs. Par ailleurs, il est indiqué qu’OpenAi doit filtrer l’accès à cette fonctionnalité pour les mineurs.
Derniers mots
Le cas de la fraude vidéo ChatGPT révèle la nécessité d’une réglementation et d’un contrôle de la technologie de l’IA en Chine. Bien que ChatGPT puisse être un outil utile pour créer des discussions basées sur les invites et les questions des utilisateurs, il peut également être utilisé pour créer de fausses nouvelles et vidéos. Le gouvernement chinois s’est efforcé de réglementer et de contrôler l’utilisation de la technologie de l’IA, y compris ChatGPT, à mesure que la technologie devient plus avancée. La répression du gang qui a utilisé ChatGPT pour créer de fausses vidéos est un pas dans la bonne direction pour garantir que la technologie de l’IA est utilisée de manière responsable et éthique.
Il y a toujours un danger de contrefaçons profondes créées par l’IA, il est donc nécessaire de réglementer l’utilisation de la technologie de l’IA. Alors que la popularité de ChatGPT continue de croître, il est probable que nous verrons davantage de cas de fraude et d’abus. Ces contrefaçons profondes peuvent facilement passer un véritable audio, vidéo ou image. Ainsi, il est très important que les utilisateurs soient vigilants et signalent toute activité suspecte aux autorités compétentes.
Actualité mobile et vidéo de la semaine
