L’autorité de la concurrence italienne a récemment enquêté sur DeepSeek, une intelligence artificielle, à cause de préoccupations concernant sa transparence sur les « hallucinations ». Les utilisateurs pourraient recevoir des informations biaisées, soulevant des interrogations sur la fiabilité du service. Des mesures pourraient être prises dans les 270 jours à venir.
Dans le dernier rapport de l’Autorité garante pour la concurrence, des préoccupations émergent concernant DeepSeek. Cette intelligence artificielle se voit reprocher un manque de clarté pour ses utilisateurs concernant la possibilité d’obtenir des réponses erronées, qualifiées d’hallucinations.
L’arrivée de DeepSeek en Italie a été marquée par des controverses, notamment liées à la protection des données. Peu après son lancement, l’Autorité de la protection de la vie privée a intervenu pour suspendre l’application et établir des normes pour la collecte des données. Aujourd’hui, c’est l’Autorité de la concurrence qui souhaite des éclaircissements sur plusieurs aspects.
Dans son rapport du 16 juin, l’Autorité Garante de la Concurrence et du Marché (Agcm) a ouvert un procédure de demande d’informations dirigée vers les entreprises derrière DeepSeek : Hangzhou DeepSeek Artificial Intelligence et Beijing DeepSeek Artificial Intelligence.
Les points soulevés par l’Antitrust
Agcm, souvent appelée Antitrust, remet en question plusieurs éléments concernant DeepSeek. Le premier concerne les “hallucinations”, terme décrivant les situations où une IA fournit des données inventées ou inexistantes. Un exemple cité est celui d’un utilisateur demandant des informations sur les événements de la Piazza Tiananmen en 1989, à quoi DeepSeek répond avec “Parlons d’autre chose”.
Cet incident est emblématique de la censure exercée par le gouvernement chinois. Selon Agcm, la possibilité que DeepSeek génère des “hallucinations” n’est pas suffisamment claire pour l’utilisateur. Le rapport indique : “Le seul avertissement visible dans l’interface de DeepSeek est trop générique pour informer adéquatement l’utilisateur sur les risques d’hallucinations”.
Par ailleurs, le cas de la Piazza Tiananmen pourrait être considéré moins comme une erreur qu’une décision intentionnelle. Le processus d’enquête a déjà débuté et devrait durer 270 jours. Outre des réponses sur ces questions, l’Antitrust a demandé un aperçu des services offerts en Italie et le nombre d’utilisateurs italiens.