La fonction de recherche basée sur l’IA de Google recommande les sites malveillants, y compris les escroqueries et les logiciels malveillants

Google

Contexte : Un autre jour, un autre exemple de la technologie d’intelligence artificielle générative de Google faisant quelque chose qu’elle ne devrait pas faire. Cette fois, ce sont les résultats de recherche basés sur l’IA de l’entreprise qui se comportaient mal, recommandant des sites Web malveillants, notamment ceux proposant des escroqueries, des logiciels malveillants et de faux cadeaux.

Google a commencé à déployer sa Search Generative Experience (SGE) plus tôt ce mois-ci. La société se vante que cette fonctionnalité permet aux utilisateurs de poser des questions complexes et plus descriptives, l’IA générative fournissant des résumés textuels des sites et des recommandations liées à la recherche d’un utilisateur.

Cela peut sembler utile, mais la consultante SEO Lily Ray a remarqué que quelque chose n’allait pas avec Google SGE. Selon son article sur X, SGE recommandait des sites potentiellement malveillants dans le cadre de ses réponses. La question de Ray concernant les chiots Pitbull à vendre sur Craigslist a renvoyé des recommandations sur plusieurs sites dangereux et frauduleux qui pourraient contenir des logiciels malveillants.

BleepingComputer note que tous les résultats suspects répertoriés par SGE ont tendance à utiliser le même domaine .online, les mêmes modèles HTML et sites pour effectuer des redirections, indiquant qu’ils font partie de la même campagne d’empoisonnement SEO qui leur a permis de faire partie de l’index Google.

La publication a révélé que cliquer sur ces liens conduisait les visiteurs à travers une série de redirections jusqu’à ce qu’ils atteignent le site frauduleux. La plupart du temps, les personnes sont dirigés vers de faux captchas ou des sites YouTube qui tentent d’inciter les visiteurs à s’abonner aux notifications du navigateur, ce qui enverra une multitude de publicités frauduleuses telles que du support technique et de faux cadeaux sur le bureau. Il y avait également une publicité antivirus McAfee invitant les utilisateurs à effectuer une analyse ou à renouveler leur licence, gagnant ainsi une commission d’affiliation pour l’expéditeur.

Un autre utilisateur de X a tenté une recherche similaire pour les chiots Craigslist à vendre. SGE a fait apparaître un site avec le domaine allemand .de. Le premier clic l’a conduit au spam des cartes-cadeaux Amazon, tandis que le second l’a conduit au porno.

Google affirme mettre constamment à jour ses systèmes et ses algorithmes de classement pour se protéger contre le spam. Il semble que l’entreprise ait supprimé ces résultats SGE depuis leur mise en avant.

Le mois dernier, la fonctionnalité de génération d’images Gemini AI de Google a été suspendue après que l’outil ait produit des images montrant des personnes de couleur et des femmes dans des contextes historiquement inexacts, tels que les soldats allemands de l’ère nazie et les pères fondateurs.


Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :

YouTube video