Chris Sestito, cofondateur de HiddenLayer, alerte sur les risques de l’intelligence artificielle mal régulée. Il souligne l’importance d’une approche globale pour aborder les défis de sécurité liés à la technologie, tout en critiquant les tendances à séparer les aspects techniques et éthiques dans les politiques actuelles.
En tant qu’expert, il met en garde contre les dangers d’une IA incontrôlée et la nécessité de redéfinir sa sécurité
Chris Sestito, cofondateur et PDG de HiddenLayer, une startup de cybersécurité dédiée à la prévention des attaques par intelligence artificielle, a exprimé sa préoccupation quant à la possibilité d’une dérive rapide de l’IA si les définitions et les approches de sa sécurité ne sont pas correctement gérées. Il insiste sur le fait que les approches réductrices en matière de réglementation peuvent s’avérer dangereuses, car il est essentiel d’aborder ses multiples dimensions de manière holistique.
Dans une récente interview avec Axios, Sestito critique la tendance à dissocier artificiellement les aspects techniques et éthiques des politiques de l’IA. Il souligne par exemple que cette séparation entre « biais algorithmiques » et « menaces de sécurité » est trompeuse et ne rend pas compte de la complexité des défis posés par l’intelligence artificielle. De plus, il s’appuie sur des cas concrets où des problèmes considérés comme purement techniques, tels que des algorithmes fournissant des instructions pour fabriquer des armes, ont des conséquences sociales directes et significatives.
Nous ne pouvons pas aborder les défis de l’IA de manière superficielle ou isolée, ils doivent être considérés de manière conjointe
Cette perspective prend de l’importance après le récent changement de nom de l’Institut de Sécurité de l’IA du Royaume-Unis en Institut de Cybersécurité en IA, ainsi que les réductions budgétaires prévues pour l’institution américaine équivalente. Pour cet entrepreneur, qui a plus de dix ans d’expérience à la tête d’équipes mondiales de recherche sur les menaces, de renseignement, d’ingénierie et de science des données, ces mouvements reflètent une vision limitée qui associe sécurité à la protection contre le piratage.
Cependant, cette approche ignore des dimensions importantes, telles que les vulnérabilités permettant d’extraire des informations sensibles des modèles et les décisions algorithmiques discriminatoires dans des domaines comme la justice ou la santé. Sans mentionner la création de contenu dangereux, allant des manuels pour fabriquer des explosifs à des matériels relatifs à l’abus d’enfants.
D’autre part, dans l’article publié par un site d’actualités américain, on peut voir que le cofondateur de HiddenLayer rejette catégoriquement l’idée d’associer les préoccupations en matière de sécurité de l’intelligence artificielle à des débats sur la censure. Bien qu’il admette des parallèles avec les controverses sur les réseaux sociaux, il souligne que les risques liés à l’IA dépassent largement ce cadre :
« Cela englobe la nécessité de garder les secrets nucléaires hors des modèles jusqu’à prévenir leur utilisation dans des cyberattaques massives », déclare Chris Sestito.
De plus, ses déclarations interviennent dans un contexte où les États-Unis et le Royaume-Unis ont refusé de signer la déclaration internationale sur une IA éthique, inclusive et sécurisée lors du sommet de Paris qui a eu lieu récemment, contrairement à l’Europe et à 60 autres pays, qui ont plaidé pour une approche basée sur des principes éthiques et durables. Sestito, surnommé « Tito », interprète ce refus comme une illustration du fait que ces deux pays privilégient la croissance économique et la compétitivité plutôt que des mesures réglementaires complètes.
Le directeur général de HiddenLayer estime que les cadres réglementaires actuels sont insuffisants et peu efficaces. La raison ? Selon lui, un manque de coordination internationale, des coupes dans la recherche sur la sécurité et une sous-estimation des risques, car ils agissent toujours de manière réactive au lieu de préventive. Pour conclure, il souligne que la clé réside dans le développement de politiques intégrant des perspectives techniques, éthiques et géopolitiques.