Opera lance devicetest.ai, un outil qui permet d’évaluer la capacité des dispositifs à exécuter des modèles d’IA localement
Opera a lancé devicetest.ai, un outil qui permet aux utilisateurs d’évaluer la capacité de leurs dispositifs à exécuter des modèles d’intelligence artificielle (IA) localement. Cette solution, accessible à tous, ouvre de nouvelles possibilités dans l’utilisation de l’IA et améliore la confidentialité en permettant de faire des tests sans envoyer de données à des serveurs externes.
Comment devicetest.ai fonctionne
L’outil est conçu pour être facile à utiliser et convient aussi bien aux utilisateurs occasionnels qu’aux passionnés dotés d’équipements avancés et aux chercheurs spécialisés dans l’intelligence artificielle. Pour utiliser devicetest.ai, les utilisateurs doivent accéder à travers la dernière version d’Opera Developer, un navigateur qui intègre depuis quelques jours les modèles d’intelligence artificielle de la famille Google Gemini. Une fois sur la page, ils doivent suivre ces étapes :
- Lire les informations fournies.
- Cliquer sur « Exécuter le test ».
- Sélectionner un profil d’évaluation.
- Cliquer sur « Démarrer le test ».
La durée du test varie entre trois et vingt minutes, en fonction des spécifications du système et du profil choisi. À la fin, les résultats s’affichent à l’écran et peuvent être partagés via un lien ou téléchargés sous forme de fichier CSV pour effectuer des analyses supplémentaires.
Devicetest.ai propose trois profils d’évaluation, chacun représentant un grand modèle de langue (LLM) local avec différentes exigences en termes de ressources. Le choix du profil doit être basé sur les spécifications matérielles disponibles pour obtenir une évaluation représentative. L’outil utilise trois principaux indicateurs pour déterminer la capacité du dispositif :
- Mots par seconde (TPS) : mesure la quantité de mots de quatre caractères, y compris les espaces, que le modèle peut traiter par seconde.
- Latence du premier mot (FTL) : mesure le temps que met le modèle pour générer le premier mot après avoir reçu une indication.
- Temps de chargement du modèle (MLT) : mesure le temps nécessaire au matériel pour charger le LLM dans la mémoire vive du système.
En plus de ces indicateurs principaux, devicetest.ai fournit des résultats supplémentaires liés à diverses tâches typiques d’un LLM local. Le modèle exécute ces tâches plusieurs fois et fournit des moyennes de TPS et FTL pour chacune d’elles, offrant une vision plus détaillée des performances du dispositif.
Les différents types de résultats que devicetest.ai peut fournir, selon les capacités du dispositif
Opera a assuré que les données utilisées dans le test sont uniquement utilisées pour générer les résultats et comparer les performances du dispositif avec d’autres utilisateurs. Aucune donnée personnelle n’est collectée ni associée à des adresses IP spécifiques, garantissant ainsi que la confidentialité de l’utilisateur est préservée.
Pour ceux qui souhaitent vérifier la capacité de leur dispositif pour l’IA, il est nécessaire de télécharger la version d’Opera Developer et de suivre les étapes mentionnées.