Mrinank Sharma démissionne de son poste de responsable de la sécurité d’Anthropic, alertant sur des pressions internes qui compromettent les principes éthiques de l’entreprise au profit de ses ambitions commerciales. Sa lettre se veut un appel à la réflexion sur le rôle de la technologie et les valeurs morales qui devraient l’encadrer.
Le responsable de la sécurité d’Anthropic démissionne en dénonçant des pressions internes pour ignorer les principes éthiques au profit de l’expansion commerciale de l’entreprise
Mrinank Sharma vient de quitter son poste de responsable de la sécurité d’Anthropic à travers une lettre publique qui a alarmé le secteur. Le chef du team de protection met en garde sur un danger imminent lié à des crises interconnectées, insinuant que l’entreprise néglige ses valeurs fondamentales pour se concentrer sur la croissance.
Cette information provient de Forbes, qui retrace le parcours de cet ancien étudiant d’Oxford, entré dans l’entreprise en août 2023. Sharma était chargé de recherches cruciales pour limiter le bioterrorisme assisté par l’IA et le phénomène de sycophantie, où les chatbots flattent les utilisateurs au lieu d’être objectifs.
Un schisme éthique au cœur de la sécurité
Claude est le service d’IA d’Anthropic
Ce qui interpelle dans cette démission, c’est que Sharma évoque avoir subi des pressions constantes pour ignorer ce qui est essentiel. Selon ses dires, il a été très difficile de laisser les valeurs diriger les actions au sein de l’entreprise. Ce constat contraste fortement avec l’image publique d’une société qui s’est voulu être sécurisée.
Actuellement, Anthropic cherche à se développer de manière agressive, visant une évaluation de 350 milliards de dollars. Avec le support financier de géants comme Amazon et Google, l’entreprise semble avoir mis l’accent sur la compétition commerciale, s’éloignant des cadres formels d’analyse des risques, désignés en interne comme des « cas de sécurité de l’IA ».
Ce départ survient quelques jours après la présentation de Claude Opus 4.6, l’IA la plus puissante sur le marché. Alors que le laboratoire met en avant sa puissance brute, ses experts les plus expérimentés quittent le navire, déclarant que la sagesse humaine n’évolue pas au même rythme que notre capacité d’influencer la planète.
Cette situation rappelle inévitablement les événements chez les concurrents directs. Jan Leike a quitté OpenAI pour des divergences similaires et travaille désormais précisément chez Anthropic, ce qui entraîne un chevauchement d’intérêts et de visions éthiques complexes. Il semble qu’aucune des grandes entreprises technologiques ne parvienne à sécuriser ses processus de décision face à l’ambition économique.
Pondération de l’intégrité face aux affaires
Mrinank Sharma, l’ex-responsable de la sécurité d’Anthropic
La lettre de Sharma se veut un document énigmatique et profondément analysé qui cite des poètes comme Rilke pour justifier sa décision. Il n’est pas le premier chercheur préférant à la bravoure et la poésie le fait de valider des systèmes qui, selon lui, pourraient réduire notre humanité ou altérer notre nature et nos comportements sociaux.
Contrairement à la position officielle sur la régulation de l’IA, qui a toujours été mesurée, Sharma aborde une crise d’intégrité. Il est paradoxal que l’entreprise, qui a promis de ne pas inclure de publicités dans Claude pour sembler plus responsable, soit maintenant accusée de faiblir sur ses bases morales.
Sharma n’avance pas d’exemples concrets ni de documents prouvant une mauvaise pratique spécifique. Cependant, son avertissement sur un monde en danger résonne fortement, rappelant qu’OpenAI a reconnu des risques de cyberattaques autonomes dans ses modèles avancés, publiquement, il y a quelques mois.
Actuellement, nous traversons ce que de nombreux analystes nomment déjà l’hiver de l’IA, une crise que personne n’a vu venir. La démission d’un responsable de sécurité dans une entreprise phare de la responsabilité technologique confirme que la distance entre la promotion des risques et la réalité commerciale se creuse davantage. De plus, un précédent analyse du secteur de l’IA avait souligné que les conséquences économiques d’une crise dans ce secteur pourraient être désastreuses.
Sharma envisage désormais une vie axée sur le travail communautaire et l’écriture, loin du tumulte de San Francisco. Pendant ce temps, Anthropic reste silencieuse face aux demandes de commentaires, laissant planer le doute sur la sécurité comme priorité réelle ou simplement une étiquette pratique pour attirer les investisseurs multimillionnaires.