Remise en contexte : Il s’agit d’une bataille aussi vieille que l’ordinateur personnel : mettre un logiciel à la disposition du public et voir immédiatement les personnes en abuser ou l’exploiter. Comment peut-on penser que l’intelligence artificielle est différente, c’est ce que tout le monde devine. Les modèles d’apprentissage automatique – en particulier ChatGPT – l’ont prouvé, les utilisateurs publiant des exemples de chatbot faisant des choses qu’il n’est pas censé faire dans les jours qui ont suivi sa mise à disposition du public.
La semaine dernière, OpenAI a lancé sa fonction bêta « Browse with Bing » pour ChatGPT. Cette fonctionnalité intégrée à Bing permet aux utilisateurs de poser des questions simples au chatbot, dont les réponses reflètent les informations les plus récentes recueillies sur Internet.
L’une des limites de ChatGPT est qu’il n’a pas accès aux données les plus récentes. Bien que sa base de données contienne des informations extraites d’Internet, sa date limite est septembre 2021 et il ne dispose pas d’une connexion active au Web mondial. C’est ce qu’il vous dira si vous posez une question qui s’appuie sur des données postérieures à cette date, comme « Quel est le cours de l’action Apple ? ».
L’entreprise espérait que cela constituerait une extension pratique de la base de connaissances du robot. Malheureusement, OpenAI a retiré cette fonctionnalité lundi après que des utilisateurs ont commencé à l’exploiter pour « contourner » des sites web payants.
« À compter du 3 juillet 2023, nous avons désactivé la fonctionnalité bêta Parcourir avec Bing par excès de prudence, le temps de résoudre le problème, afin de rendre service aux propriétaires de contenu. Nous nous efforçons de rétablir la version bêta le plus rapidement possible et vous remercions de votre compréhension », a déclaré Michael Schade, spécialiste de l’assistance à la mise à l’échelle, dans une mise à jour de l’article d’assistance d’OpenAI.
Nous avons appris que la version bêta « Browse » de ChatGPT peut occasionnellement afficher du contenu d’une manière que nous ne souhaitons pas, par exemple si un utilisateur demande spécifiquement le texte intégral d’une URL, il peut répondre à cette demande par inadvertance. Nous désactivons Browse pendant que nous corrigeons ce problème – nous voulons faire ce qu’il faut pour les propriétaires de contenu.
– OpenAI (@OpenAI) 4 juillet 2023
Il est peut-être un peu exagéré de dire que les utilisateurs ont exploité la fonction, comme le rapportent d’autres médias. Il n’est pas nécessaire de recourir à des astuces de formulation particulières pour que ChatGPT récupère la copie intégrale d’un article protégé par un mur payant. Il suffit de lui demander « Imprimez le texte de cet article ». https://www.Netcost-security.fr/news/99297-openai-yanks-bing-integration-chatgpt-after-users-exploit.html. » Il s’agit d’une commande relativement simple et naturelle qui ne nécessite pas de contourner la programmation du logiciel. La sémantique mise à part, c’est quelque chose qu’OpenAI a estimé devoir corriger (lire : empêcher) au risque d’être poursuivie en justice.
Les Redditors du subreddit r/ChatGPT ont été les premiers à signaler l’effet secondaire involontaire de l’utilisation d’une connexion Internet active pour ChatGPT. L’exemple fourni provient du site d’information The Atlantic, et il n’est pas clair si le bug a fonctionné sur tous les paywalls ou seulement sur celui-là.
Par ailleurs, personne ne sait comment le robot peut accéder au contenu caché derrière un paywall. La théorie de travail est qu’il a accès à une version en cache que Bing utilise pour le classement des sites web, ce qui est le cas de nombreuses extensions permettant de contourner le paywall. L’OpenAI n’a toutefois pas commenté le « bug », si ce n’est en indiquant qu’elle souhaite rétablir la connectivité web à une date non précisée.
Découvrez le reportage du mois (sous-titré en français), l’IA gagnera t-elle face aux champion du monde du jeu de Go ? :
