Les avancées récentes de l’intelligence artificielle soulèvent de nouvelles interrogations sur la sécurité et la vie privée des utilisateurs. La capacité de ChatGPT à imiter la voix humaine sans autorisation explicite met en lumière des enjeux éthiques et techniques cruciaux. Cette situation mérite un test attentif des conséquences potentielles pour chacun d’entre nous.
ChatGPT est capable de cloner ta voix sans que tu en sois conscient
OpenAI continue de surprendre les utilisateurs avec les capacités de ses modèles d’IA. Au cours des derniers mois, un nombre important de progrès a été annoncé, ChatGPT s’est considérablement amélioré avec le lancement de GPT-4o et, tout semble indiquer que nous n’avons pas encore vu les véritables capacités des modèles et outils qu’OpenAI a dans son portefeuille de produits.
La dernière révélation concerne la capacité de ChatGPT à imiter la voix humaine à un degré de perfection troublant. Mais ce n’est pas tout, le principal problème de cette situation est que ChatGPT est capable de faire cela sans que l’utilisateur donne une autorisation explicite au chatbot pour le faire. Oui, ChatGPT peut imiter ta voix sans que tu lui demandes de le faire.
C’est grâce à un rapport publié par OpenAI que cette capacité de ChatGPT a pu être révélée. L’entreprise indique que, dans certaines situations, son IA peut répliquer la voix des êtres humains sans qu’elle ait un quelconque type d’autorisation. Évidemment, cela pose un problème de sécurité pour tous les utilisateurs qui utilisent le service d’OpenAI.
ChatGPT est capable d’imiter ta voix sans ton autorisation : l’inquiétant avancement de l’intelligence artificielle
La situation décrite par la société met en lumière une préoccupation constante concernant la vie privée des utilisateurs et, également, des capacités de l’IA. OpenAI n’a pas entraîné ChatGPT avec une énorme base de données vocales, en fait, tout le contraire. Les limitations de son information font qu’il peut utiliser la voix de la personne qui lui parle.
OpenAI vient de dévoiler l’intrigue de la prochaine saison de Black Mirror. https://t.co/kfOQ4jLkwa pic.twitter.com/ZG2SoZA7yY
— Max Woolf (@minimaxir) 8 août 2024
Cette possibilité est générée grâce au système d’entraînement de ChatGPT qui peut utiliser une série de courtes vidéos pour synthétiser la voix, ce qui fait que l’audio généré par un émetteur humain sert de modèle pour que cela émerge. Il n’est pas idéal que ChatGPT ait cette capacité, même si cela représente un progrès en matière d’IA.
Évidemment, OpenAI a pris des mesures pour limiter cette situation. Les changements effectués visent à empêcher que ChatGPT puisse prendre la voix d’une personne et l’utiliser pour générer une réponse, bien qu’il ne s’agisse pas d’une situation totalement impossible puisque le chatbot peut être trompé pour réaliser cette action.