Comment exécuter et utiliser l’IA localement sur votre PC à faible RAM

How to Run and Use AI Locally on Your Low RAM PC

Cette année marque véritablement une ère dominée par l’intelligence artificielle. Bien que la majorité des appareils ne soient pas encore compatibles avec les dernières fonctionnalités d’IA, il existe des solutions pour tirer parti de ces technologies à partir de PC plus anciens. Découvrez comment profiter de l’IA sans avoir à changer de matériel.

Il serait certainement judicieux de qualifier l’année en cours d’« ère de l’IA ». Que ce soit sur nos smartphones, nos ordinateurs ou dans nos emplois, l’intelligence artificielle s’immisce partout. Cependant, toutes les fonctionnalités alimentées par l’IA ne peuvent pas encore être exploitées sur l’ensemble des appareils, car presque toutes nécessitent un minimum de spécifications matérielles.

Si vous possédez un vieux PC qui ne répond pas aux exigences minimales pour les dernières fonctionnalités et outils d’IA, ne vous inquiétez pas. Il existe plusieurs solutions pour accéder à ces technologies sur vos dispositifs modestes. Dans ce guide, nous examinerons la possibilité de faire fonctionner des LLM sur des PC peu puissants et, le cas échéant, les modèles LLM compatibes avec des ordinateurs vieillissants.

Pouvons-nous exécuter l’IA localement sur des PC avec peu de RAM et du matériel ancien ?

LLM, ou Modèle de Langage de Grande Taille, est un outil qui doit d’abord être téléchargé sur l’appareil avant de pouvoir être exécuté. C’est pourquoi ces outils nécessitent généralement un matériel puissant et une grande quantité de RAM pour fonctionner correctement. Vous pouvez également tester les capacités d’IA de votre PC à l’aide de l’outil Geekbench AI. Quoi qu’il en soit, certains LLM ne nécessitent pas d’exigences matérielles spécifiques pour fonctionner.

Quelles sont les spécifications requises pour exécuter les LLM ?

Il n’y a pas de réponse unique à cette question. Les spécifications minimales requises dépendent du LLM que vous comptez utiliser. Certains exigeront au moins 8 Go de RAM, tandis que d’autres en demanderont 16 Go. La plupart des LLM nécessitent un processeur à huit cœurs avec un GPU intégré ou dédié puissant.

Comment puis-je exécuter l’IA sur mon ancien PC ?

Si votre PC ne satisfait pas les exigences minimales pour la plupart des LLM et que vous souhaitez malgré tout y exécuter de l’IA, pas de panique. Nous avons des solutions à vous proposer. Dans ce cas, vous pouvez utiliser des chatbots d’IA en ligne. Ces outils d’IA sont aussi puissants que vos LLM installés localement. Vous pouvez accomplir presque toutes les tâches avec les chatbots en ligne que vous feriez avec ceux installés localement.

Cependant, cela ne s’arrête pas là. Les chatbots locaux présentent des avantages, comme le fait qu’ils ne nécessitent pas toujours une connexion internet active et qu’ils peuvent mieux accéder aux détails de votre appareil. En revanche, les outils en ligne dépendent d’une connexion internet.

Meilleurs LLM à utiliser sur de vieux PC Windows

Jusqu’à présent, nous avons identifié deux LLM qui peuvent facilement fonctionner sur des appareils à faibles performances parce qu’ils sont légers. Il s’agit de DistilBERT et ALBERT. Cependant, ces chatbots ne sont pas conçus pour résoudre des problèmes complexes.

Comment executer et utiliser lIA localement sur votre PC a

DistilBERT a été développé par les concepteurs de HuggingFace. Ces derniers le présentent comme une version « plus petite, plus rapide et moins coûteuse » de BERT. Il est compact, nécessite peu de mémoire pour fonctionner, et est probablement l’un des modèles LLM de petite taille les plus efficaces à ce jour.

ALBERT est un autre modèle sur notre liste. Il fonctionne de manière similaire à DistilBERT, mais sa conception est très différente. Vous pouvez également utiliser ce LLM si vous avez un PC haut de gamme sans vouloir exécuter des tâches complexes.

De plus, si votre PC possède 8 Go de RAM, vous pouvez également essayer la version GPT Neo 125M. C’est une version open-source qui peut être ajustée et personnalisée selon les besoins de l’utilisateur. Elle représente un bon compromis entre performance et exigences système, et fonctionne aussi bien que GPT-2, voire mieux.

Comment installer les chatbots LLM

Avant toute chose, tous les LLM ont des solutions d’installation différentes, donc nous ne pouvons désigner une solution universelle. Mais avant de passer à l’étape de téléchargement et d’installation, assurez-vous de vérifier le matériel de votre PC et de trouver un LLM compatible. Vous pouvez alors télécharger un outil appelé Docker. Cet outil vous permettra d’exécuter l’application dans des conteneurs spécifiques.

Ensuite, recherchez le logiciel LLM sur le site source, que ce soit HuggingFace ou GitHub. Lisez les instructions d’installation et suivez-les étape par étape. Il se peut que vous deviez également télécharger une mise à jour du logiciel par la suite, donc restez vigilant. Vous pouvez également consulter la communauté des LLM respectifs sur Reddit ou d’autres plateformes pour obtenir plus d’orientations et d’aide si nécessaire.