Dario Amodei, fondateur d’Anthropic, fait face à un conflit avec le Pentagone concernant l’utilisation de Claude, un modèle de langage. Amodei pourrait renoncer à tout accord si des projets impliquant la surveillance de masse et des armes autonomes étaient imposés, plaidant pour la protection des valeurs démocratiques.
Dario Amodei est le fondateur d’Anthropic. Né en 1983, il possède des origines italiennes. Avec un groupe de chercheurs ayant quitté OpenAI, il a développé Claude, un modèle de langage prisé par les développeurs. Récemment, Amodei a été au cœur d’un désaccord avec le Pentagone, suite à une demande du Département de la Défense des États-Unis pour étendre l’utilisation de Claude à de nouvelles missions.
Dans un message publié sur les plateformes d’Anthropic, Amodei a affirmé qu’il était prêt à renoncer à un éventuel contrat avec le Pentagone si le Département de la Défense tentait de forcer l’entreprise à travailler sur deux nouveaux projets : la sorveillances de masse et les armes entièrement autonomes. Sa motivation est explicite : “Nous pensons que l’IA peut parfois menacer, plutôt que défendre, les valeurs démocratiques. Certains usages dépassent ce que la technologie actuelle peut réaliser de manière sécurisée et fiable”.
Les raisons d’Anthropic : le problème de la surveillance et des armes autonomes
Amodei a précisé pourquoi il ne souhaite pas collaborer avec le Pentagone. Le premier point concerne la surveillance : « La surveillance de masse reposant sur l’IA présente de nouveaux risques pour nos libertés fondamentales”. De plus, Amodei a mentionné que l’utilisation d’outils d’intelligence artificielle pour la surveillance de masse est légale, seulement parce que la législation n’a pas encore abordé correctement les conséquences de ces technologies :
“La loi n’a pas encore suivi les avancées rapides de l’IA. Une IA puissante permet de réunir des données éparses et innocentes en une image complète de la vie de n’importe quelle personne, de manière automatique et à grande échelle”.
Concernant les armes entièrement autonomes, le risque est considérable. Actuellement, la technologie ne permet pas de créer ces armes de manière sécurisée : “Nous ne fournirons pas consciemment un produit mettant en danger les combattants et les civils américains”.
Les conséquences des choix d’Anthropic
Anthropic a aussi expliqué ce qui pourrait se passer si le Pentagone décidait de ne pas continuer le contrat : “Nous travaillerons pour faciliter une transition vers un autre fournisseur, en évitant toute interruption de la planification militaire en cours, des opérations ou d’autres missions critiques”. À ce jour, il n’est pas clair si des discussions sont en cours pour remplacer Claude par d’autres modèles d’intelligence artificielle.