Un créateur de Minecraft a récemment atteint un sommet en concevant une IA nommée CraftGPT, dotée de plus de 5 millions de paramètres, entièrement réalisée avec des blocs de Redstone. Ce projet audacieux pousse les limites de la créativité et démontre le potentiel de l’univers de Minecraft pour des expérimentations techniques fascinantes.
Un créateur de Minecraft réussit à construire une IA nommée CraftGPT avec plus de 5 millions de paramètres uniquement avec des blocs de Redstone
Minecraft a toujours été un terrain propice à la créativité, mais certains vont encore plus loin. C’est le cas de Sammyuri, un créateur bien connu de la communauté qui a déjà impressionné par le passé avec des processeurs et des ordinateurs construits dans le jeu. Aujourd’hui, il se surpasse avec un projet aussi novateur que fascinant : un modèle de langage fonctionnel avec plus de 5 millions de paramètres construit exclusivement avec des blocs de Redstone.
CraftGPT : quand l’IA prend forme dans des blocs
Ce projet, appelé CraftGPT, et disponible sur GitHub, consiste en une énorme structure de 439 millions de blocs mesurant 1.020 x 260 x 1.656 dans le monde cubique. L’ensemble du système a été conçu uniquement avec des blocs de Redstone, sans utiliser de commandes ni de packs de données, et fonctionne comme un véritable réseau neuronal. _Que signifie cela ? _ Cela signifie qu’il inclut un tokenisateur, des multiplicateurs de matrices et jusqu’à six couches entraînées en Python avec le dataset TinyChat, spécialisé dans les conversations simples en anglais.
En chiffres, ce modèle présente une dimension d’embedding de 240, un vocabulaire de 1.920 tokens et une fenêtre de contexte de 64 tokens, suffisante pour des échanges très brefs. De plus, la plupart des paramètres ont été quantifiés à 8 bits pour pouvoir être implémentés dans Minecraft, ce qui est en soi un accomplissement technique monumental.
Une IA qui répond, mais avec beaucoup de patience
Comme on pourrait s’y attendre, l’expérience de conversation avec CraftGPT s’éloigne beaucoup des chatbots modernes comme ChatGPT. Même en utilisant des serveurs optimisés pour augmenter le taux de rafraîchissement jusqu’à 40.000 fois, une simple réponse peut prendre environ deux heures à être générée.
Le créateur de ce projet, Sammyuri, prévient que son modèle peut dévier du sujet, commettre des erreurs grammaticales ou générer des phrases incohérentes. Pourtant, ce n’est pas réellement l’objectif : ce qui est impressionnant ici n’est pas l’utilité pratique, mais plutôt le fait que quelqu’un ait réussi à transférer la logique d’un modèle de langage contemporain dans l’écosystème de Redstone.
Minecraft comme laboratoire de l’impossible
Il est important de rappeler que ce n’est pas le premier exploit de la communauté, puisque dans le passé, il a été possible d’exécuter DOOM (1993) dans le jeu (comme il peut également être joué à partir d’un fichier PDF), en plus de créer des CPU entières. Cependant, créer un modèle de langage avec des millions de paramètres représente un niveau de complexité très différent.
CraftGPT ne modifiera pas l’intelligence artificielle, mais prouve à quel point Minecraft peut être un laboratoire ouvert pour la créativité et l’expérimentation technique. Au final, plus qu’un chatbot, ce que Sammyuri a construit est une œuvre d’art numérique qui remet en question les limites de ce qui peut être réalisé dans un jeu vidéo.