Avec de plus en plus d’éléments d’IA présents, les applications mobiles sur Android veulent profiter et incorporer tout ce qu’elles peuvent offrir. Malheureusement, toutes n’optent pas pour la sécurité et la fiabilité, obligeant ainsi Google à adapter les règles du Play Store d’Android pour empêcher la création de deepfakes et d’autres images et vidéos inappropriées.
Google ne veut pas de deepfakes IA sur Android
Google vient d’annoncer des changements dans les politiques du Google Play. Elles seront beaucoup plus strictes avec les applications qui permettent la création de contenu en utilisant l’intelligence artificielle. L’objectif est d’éviter un mauvais usage des capacités de ces applications, en particulier de celles qui ouvrent la voie aux deepfakes, tant au niveau de l’image que de l’audio.
Le géant de la recherche met en garde les développeurs qu’ils devront éviter de générer du contenu restreint. De plus, ils devront permettre aux utilisateurs de signaler d’une manière ou d’une autre le contenu offensant trouvé dans ces applications.
Ces nouvelles règles s’appliquent aux applications de chatbot d’IA générant des interactions texte-texte, des applications texte-image, voix-image, image-image, création d’images, création d’enregistrements vocaux par IA et autres. En résumé, toutes les applications possédant des qualités d’IA générative.
Elle bloquera les applications qui dépassent les limites
Les applications hébergeant du contenu généré par IA, mais qui ne parviennent pas à le générer, ainsi que celles se concentrant uniquement sur la synthèse de contenu (non généré par IA), ne seront pas soumises à ces conditions. Google a également tenu à préciser quels sont les aspects qui n’auront pas leur place dans les applications capables de générer du contenu :
- Enregistrements vocaux ou vidéo de personnes réelles facilitant les escroqueries.
- Contenu généré pour encourager des comportements préjudiciables (par exemple, des activités dangereuses, l’automutilation).
- Contenu lié aux élections qui est manifestement trompeur ou faux.
- Contenu généré pour faciliter la cyberintimidation et le harcèlement.
- Applications génératives d’IA principalement destinées à être sexuellement gratifiantes.
- Documentation officielle générée par IA permettant un comportement malhonnête. Création de code malveillant.
Bien que ces règles puissent sembler évidentes, au sein de tout l’écosystème d’applications du Play Store, cet ordre nouveau est essentiel. Les applications devront se conformer aux réglementations du Play Store et contrôler ce qu’elles peuvent générer, ainsi que l’obligation de permettre aux utilisateurs de signaler tout contenu inapproprié.