Elon Musk a récemment exprimé ses inquiétudes concernant l’avenir de l’intelligence artificielle, affirmant que les données humaines nécessaires à l’entraînement des modèles deviennent insuffisantes. Il propose l’utilisation de données synthétiques comme solution, tout en avertissant des risques d’une créativité amoindrie si la dépendance à ces données se renforce.
Le PDG de Tesla/X, Elon Musk, semble penser que l’entraînement des modèles d’IA uniquement avec des données créées par l’homme devient impossible. Musk prétend qu’il y a un manque croissant de données du monde réel pour former des modèles d’IA, y compris son chatbot Grok IA.
« Nous avons maintenant épuisé, en gros, la somme cumulative du connaissance humaine… dans l’entraînement de l’IA », a déclaré Musk lors d’une interview en direct sur X, menée par le président de Stagwell, Mark Penn. « Cela s’est produit essentiellement l’année dernière. »
Les commentaires de Musk rejoignent ceux de l’ancien chercheur d’OpenAI, Ilya Sutskever, qui avait prédit en décembre dernier que l’industrie de l’IA avait atteint son « pic de données ». La solution de Musk à ce problème — les données synthétiques — reflète également la tendance générale de l’industrie. Google, OpenAI, Anthropic, et Meta exploitent déjà des données synthétiques pour entraîner leurs modèles.
« La seule manière de compléter [les données du monde réel] est avec des données synthétiques, où l’IA crée [des données d’entraînement] », a déclaré Musk. « Avec les données synthétiques… [l’IA] se notera un peu et passera par ce processus d’auto-apprentissage. »
Bien que l’utilisation de données synthétiques puisse offrir des économies de coûts significatives aux entreprises, certaines études suggèrent qu’une dépendance excessive à ces données peut entraîner un effondrement du modèle, où les réponses de l’IA deviennent moins créatives et plus biaisées au fil du temps en raison d’un entraînement répété sur des données générées récursivement.
Le manque de données issues des humains n’a pas empêché X de lancer sa fonctionnalité Grok IA sous la forme de sa propre application iOS, jeudi. Le chatbot et le générateur d’images, réputés pour leur absence totale de propriété intellectuelle ou de garde-fous concernant le contenu, n’étaient auparavant disponibles que pour ceux qui payaient 8 € par mois pour un compte premium X. Cependant, la nouvelle application est gratuite et accessible à tous.