Christophe
Le cofondateur d’Apple, Steve Wozniak, s’est joint à Elon Musk et à d’éminents universitaires en IA pour appeler à une pause dans le développement avancé de l’IA. Plus précisément, la lettre ouverte demande une pause minimale de six mois dans le développement de systèmes d’IA plus puissants que GPT-4…
La lettre indique que le développement actuel de l’IA est hors de contrôle et peut poser « des risques profonds pour la société et l’humanité ».
Comme indiqué dans les principes d’Asilomar AI largement approuvés, l’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre, et devrait être planifiée et gérée avec un soin et des ressources proportionnés. Malheureusement, ce niveau de planification et de gestion ne se produit pas, même si ces derniers mois ont vu les laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable.
Il indique que les systèmes d’IA mettent en danger un grand nombre d’emplois et pose un certain nombre de questions.
Devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ? Devrions-nous automatiser toutes les tâches, y compris celles qui sont épanouissantes ? Devrions-nous développer des esprits non humains qui pourraient éventuellement être plus nombreux, plus intelligents, obsolètes et nous remplacer ? Devrions-nous risquer de perdre le contrôle de notre civilisation ?
Le développeur de ChatGPT, OpenAI, a lui-même précédemment indiqué qu’une telle pause pourrait un jour être nécessaire, et la lettre indique que ce jour est arrivé.
La récente déclaration d’OpenAI concernant l’intelligence artificielle générale indique qu' »à un moment donné, il peut être important d’obtenir un test indépendant avant de commencer à former de futurs systèmes, et pour les efforts les plus avancés d’accepter de limiter le taux de croissance du calcul utilisé pour créer de nouveaux des modèles. » Nous sommes d’accord. Ce point est maintenant.
La lettre prend soin de souligner que ses signataires n’appellent pas à une interruption de tout le développement de l’IA, mais seulement à « la course dangereuse vers des modèles de boîte noire imprévisibles de plus en plus grands avec des capacités émergentes ».
Parmi les autres signataires notables figurent une longue liste d’universitaires spécialisés dans l’IA, ainsi que des cadres supérieurs d’entreprises technologiques.
Vous pouvez lire la lettre complète ici.
Photo : Alessandro Viapiano/CC4.0
Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :