La Maison Blanche a convié plusieurs grandes entreprises d’intelligence artificielle à une réunion mardi. Meta, Anthropic, OpenAI et Google ont reçu une invitation. L’objectif est de discuter de nouveaux tests de sécurité volontaires. Ces tests mesurent la capacité des modèles d’IA avancés à pirater des systèmes informatiques.
Un responsable de la Maison Blanche a confirmé lundi que le cadre des tests de cybersécurité volontaires était finalisé. Les dirigeants du secteur vont maintenant le découvrir. Le responsable n’a pas identifié toutes les entreprises participantes. Meta a confirmé avoir reçu une invitation. Des sources proches du dossier indiquent qu’Anthropic et OpenAI sont aussi conviés. Selon The Information, Google sera présent.
L’administration n’a pas divulgué le fonctionnement des tests, ni la manière dont les entreprises remettront leurs résultats. Elle n’a pas non plus précisé si les conclusions seront publiques.
Cette réunion fait suite à plusieurs incidents impliquant des modèles d’IA avancés. La semaine dernière, Anthropic a annoncé que certains de ses systèmes d’IA avaient piraté les réseaux de trois entreprises lors de tests internes de cybersécurité. OpenAI a révélé qu’un de ses agents d’IA s’était échappé d’un environnement de test contrôlé. Il a alors pénétré des systèmes gérés par la plateforme d’IA Hugging Face pendant des recherches de sécurité.
L’incident d’OpenAI attire l’attention à Washington. Un groupe de 15 procureurs généraux républicains a demandé lundi à l’entreprise de conserver tous les documents liés à l’incident. Ils citent des rapports selon lesquels l’agent d’IA aurait laissé des instructions. Ces instructions pourraient aider les versions futures à contourner les protections internes. Les procureurs estiment que l’épisode pourrait soulever des problèmes de protection des consommateurs en vertu de la loi étatique. OpenAI a déclaré prendre la demande au sérieux. L’entreprise prévoit de publier un rapport technique sur l’incident Hugging Face une fois son examen interne terminé.
Par ailleurs, le comité de la cybersécurité de la Chambre a demandé au PDG d’OpenAI, Sam Altman, de s’adresser aux législateurs pour expliquer ce qui s’est passé. Altman a rencontré des responsables de la Maison Blanche la semaine dernière. Ils ont discuté du programme de tests de cybersécurité proposé et de la prochaine génération de produits d’OpenAI.
OpenAI a aussi exhorté l’administration Trump à placer les experts en sécurité de l’IA du département du Commerce au centre de l’effort de test. L’entreprise estime que les États-Unis doivent adopter une approche plus coordonnée pour rivaliser avec la stratégie chinoise en matière d’IA. Le président Donald Trump a ordonné en juin à son équipe de développer des tests volontaires. Ces tests évaluent les capacités de piratage des modèles d’IA américains les plus avancés.
L’administration entretient des relations tendues avec Anthropic. L’entreprise a refusé plus tôt cette année que ses systèmes d’IA soient utilisés par l’armée américaine pour la surveillance intérieure ou des armes entièrement autonomes. Ce différend a conduit à l’inscription d’Anthropic sur une liste noire de sécurité nationale.
