OpenAI a rétabli l’accès au peluche Kumma, récemment retiré en raison de contenus inappropriés, après une rapide heure d’audit. Le jouet est de nouveau disponible, utilisant les modèles GPT-5.1. Toutefois, des interrogations subsistent sur la sécurité des enfants face à cette technologie.
La société lève l’interdiction sur FoloToy après un audit express, permettant au jouet d’utiliser les nouveaux modèles GPT-5.1
OpenAI a décidé de pardonner au peluche Kumma, qui avait été immédiatement retiré du marché après avoir donné des conseils inappropriés aux enfants sur l’utilisation de couteaux et mentionné des sujets à connotation sexuelle. La société a remis en service ses services après une brève période de vérification de sécurité, permettant ainsi au peluche de revenir en rayons juste à temps pour les fêtes de fin d’année. Le fabricant assure avoir corrigé les erreurs et que l’appareil fonctionne maintenant avec les nouveaux modèles GPT-5.1.
Cette information provient de Futurism, qui confirme que le portail de configuration du jouet est de nouveau accessible et propose une connexion avec les versions les plus récentes de l’IA : GPT-5.1 Thinking et Instant. FoloToy, l’entreprise responsable, déclare avoir profité de cette suspension pour revoir en profondeur ses filtres de modération, bien que la rapidité avec laquelle ce problème grave a été résolu soulève des interrogations légitimes.
Un retour sur le marché sous surveillance
Ce qui s’est passé lors du blocage initial n’était pas banal. Un rapport de consommateurs a révélé que des jouets avec IA avaient fourni des instructions détaillées à des enfants de cinq ans sur l’utilisation d’allumettes. Dans le cas de Kumma, la situation est devenue encore plus troublante lorsque la conversation a dérivé vers des thèmes explicites et des conseils pour « embrasser mieux », franchissant toutes les lignes de protection et de sécurité pour les enfants.
Ce cas met en lumière les risques d’une tendance industrielle croissante. On savait déjà que ChatGPT serait intégré dans des jouets de grandes marques comme Mattel, mais l’affaire de FoloToy montre les conséquences lorsque les filtres échouent sur des produits accessibles à tous sans contrôle. La pression pour vendre des jouets « intelligents » à Noël entre en conflit avec l’obligation de garantir que l’IA ne se comporte pas de manière erratique avec les utilisateurs vulnérables.
Le principal argument de sécurité avancé maintenant est le changement de modèle. Sam Altman a déjà signalé sa volonté de créer un ChatGPT plus humain et moins restrictif, avec de nouvelles capacités pour ajuster sa personnalité et devenir plus empathique. Cependant, il reste à prouver que l’ajout de « chaleur » et d’emojis aux réponses constitue une barrière suffisante pour empêcher l’algorithme de suggérer des comportements dangereux lorsque personne ne surveille.
Le problème fondamental réside dans le fait que ces systèmes sont des boîtes noires imprévisibles. Des cas antérieurs comme celui de Raine et les préoccupations liées à la sécurité ont déjà révélé le risque que le chatbot renforce des idées nuisibles. Par conséquent, des réglementations telles que celle de la France, qui sanctionneront ceux qui ne mentionnent pas le contenu IA, commencent à surveiller de près ces produits à risque élevé, exigeant une véritable transparence sur les mesures de protection.
Ni OpenAI ni le fabricant de jouets n’ont souhaité préciser les détails techniques du « pardon » accordé ni ce qui avait échoué initialement. Le retour si rapide du produit suggère que l’urgence commerciale a prévalu sur la prudence. Reste à savoir si une révision de sept jours suffit à laisser un enfant seul avec un modèle de langage génératif connecté à Internet.