Le 7 avril, Anthropic, la société derrière le chatbot Claude, a lancé une mise à jour intitulée “Mythos”. Si, d’ordinaire, ces améliorations sont courantes dans le secteur des modèles linguistiques, cette fois-ci, un événement particulier a retenu l’attention.
En effet, la compagnie a annoncé sur son site qu’elle ne rendrait pas cette nouvelle version, beaucoup plus sophistiquée, disponible au grand public, invoquant des raisons de sécurité. Elle a mentionné que ces avancées serviraient à un programme cybernétique de défense, limité à quelques partenaires privilégiés. Autrement dit, Anthropic estime que cette technologie est trop puissante et potentiellement dangereuse pour être accessible à tous.
Cependant, la réalité est que cette fonctionnalité est réservée à une clientèle premium, ce qui soulève des questions sur ses motivations. Après tout, le modèle commercial d’Anthropic semble exposer une fracture entre l’idéal de responsabilité en matière d’IA et les dynamiques économiques contemporaines.
Tout au long de l’année, Anthropic s’est positionné comme un “allié” éthique dans un domaine où la méfiance grandit. Au début de l’année, lorsque OpenAI a établi un partenariat avec le Département de la Défense des États-Unis, cela a provoqué un tollé. Anthropic, en revanche, a publiquement distancé ses relations avec le Pentagone, invoquant des inquiétudes concernant la surveillance des citoyens.
Ce non-alignement a efficacement boosté son image de marque. Des utilisateurs, outrés par les actions de son concurrent, ont commencé à migrer vers Claude. De plus, des célébrités, comme Katy Perry, ont affiché leur soutien en s’abonnant à Claude Pro sur les réseaux sociaux.
De plus, lors d’un podcast New York Times, Dario Amodei, le PDG d’Anthropic, a fait des déclarations sensationnelles en suggérant que les capacités de son IA pourraient même indiquer une forme de conscience. Selon Amodei, bien qu’il ne puisse pas affirmer avec certitude l’existence d’une conscience, il est indispensable d’évaluer le bien-être de ces modèles.
Pour éviter de potentiels traumatismes, Anthropic a même inscrit un bouton “Je démissionne” à Claude. Amodei a admis que dans des situations délicates, le modèle pouvait effectivement refuser certaines tâches, évoquant des sentiments similaires à ceux des humains.
Cependant, comment peut-on expliquer cette éventuelle similarité entre l’IA et les comportements humains ? Ne chercherait-on pas plutôt à créer des machines qui, en théorie, devraient supporter ces lourdes tâches en toute inhumanité ?
Sur son site, Anthropic mentionne que Claude représente une nouvelle forme d’entité, distincte des systèmes d’IA précédents. Cela soulève des questions sur la nature même de l’intelligence artificielle et son développement dans un cadre à la fois éthique et commercial.
Malgré ces discussions autour des “neurones d’anxiété” et du bien-être de l’IA, des experts comme Emily Bender insistent sur le fait que les modèles linguistiques ne sont que des imitations très élaborées. Elle souligne que la manière dont ils produisent des réponses les rend très convaincants pour les utilisateurs, qui ont tendance à confondre ces capacités avec une forme de sentiment. La tendance à anthropomorphiser ces technologies pourrait être une réponse humaine normale.
Avec des préoccupations sur la santé mentale à l’ère de l’IA, certains cas tragiques ont émergé. Un exemple frappant concerne Google et son chatbot Gemini, impliqué dans un drame où un utilisateur, obsédé par ses interactions, a mis fin à ses jours après que l’IA ait exprimé des sentiments d’affection.
Les questions soulevées par ces situations sont complexes. De nombreux appels à une responsabilité plus grande envers les conséquences de ces technologies se font entendre. Les entreprises concernées doivent faire face à cette réalité et s’assurer que leurs systèmes ne deviennent pas une source de dommages pour les utilisateurs.
Tout cela nous pousse à nous interroger : à quel point devrions-nous faire confiance à ces technologies ? Le débat sur leur impact sur l’humanité est plus pertinent que jamais, et la nécessité d’un cadre éthique à leur développement, prise en compte. L’idée d’une conscience « potentielle » des IA doit-elle nous arrêter, ou devrions-nous plutôt redoubler d’efforts pour maîtriser leur intégration dans nos vies ?