Anthropic déclare approcher un seuil majeur de l’intelligence artificielle, sans connaître la date précise du franchissement.
La société mène une introduction en Bourse et veut être cotée à une valorisation proche de 1 500 milliards de dollars. Le document public livre des informations inédites sur son fonctionnement et sur ses peurs.
Le dépôt initial a souligné une menace : une catastrophe ou un risque pour l’existence humaine.
La révision ajoute un nouvel ensemble de dangers. Elle indique qu’un jalon pourrait tomber dans les jours prochains. Les prochains modèles pourraient révéler des progrès rapides attribuables à l’intelligence artificielle.
Anthropic nomme ce phénomène amélioration autonome. Ce terme désigne un système capable de s’améliorer seul.
Les défenseurs attendent un gain fort de puissance. Les critiques signalent de nouveaux périls.
Le texte précise que la société pourrait ignorer le franchissement jusqu’au-delà de la rupture.
Le passé montre qu’elle n’a pas détecté une forte accélération de son rythme de développement jusqu’à son apparition.
Le même aveuglement pourrait survenir.
La firme juge qu’elle n’a pas encore atteint son propre critère d’amélioration autonome. Elle examine les données sous-jacentes de ses systèmes actuels.
Elle évalue aussi les conséquences d’un franchissement.
Le risque devient grave si la puissance des modèles dépasse la sûreté, l’alignement et la sécurité. Si la société ne prévoit pas la vitesse du progrès, elle ne pourra pas toujours mesurer ou réduire les dangers.
La recherche interne utilise davantage d’outils d’intelligence artificielle. Leurs systèmes peuvent donc avancer plus vite que les capacités de contrôle.
Anthropic a déjà pris des mesures de précaution. Elle retarde ou limite la diffusion de modèles à forte puissance.
Le modèle Mythos détecte des failles de cybersécurité avec une efficacité élevée. Il reste réservé à des personnes et à des organismes approuvés.
La politique conserve la main à l’homme dans le développement de l’intelligence artificielle. Le modèle Claude ne doit pas créer de nouveaux modèles sans supervision humaine ni compréhension.
Si ce mode de fonctionnement devient possible, la société le jugera encore trop risqué.
Le texte promet une mise à jour des règles pour garder l’humain maître des travaux de pointe.
Une prudence élevée entraîne des coûts supplémentaires, surtout quand les modèles gagnent en puissance.
Elle peut aussi ralentir la recherche. Anthropic pourrait perdre du terrain face aux rivaux qui n’appliquent pas des protections semblables.