Chris Sestito, cofondateur de HiddenLayer, met en lumière les risques d’une IA incontrôlée et la nécessité de repenser sa sécurité. Il critique les approches qui isolent les aspects techniques et éthiques, plaidant pour une vision globale des défis que pose cette technologie, et appelle à des politiques intégrant toutes ses dimensions.
En tant qu’expert dans le domaine, il met en garde contre les risques d’une IA incontrôlée et la nécessité de redéfinir sa sécurité
Chris Sestito, cofondateur et PDG de HiddenLayer, une startup de cybersécurité axée sur la prévention des attaques d’intelligence artificielle, a exprimé sa préoccupation face à la possibilité d’un contrôle défaillant de l’IA si les définitions et approches concernant sa sécurité ne sont pas adéquatement gérées. Il soutient que les approches réductionnistes en matière de réglementation de cette technologie peuvent s’avérer dangereuses, car il est crucial de prendre en compte ses multiples dimensions de manière holistique.
Dans une récente interview avec Axios, Sestito critique la tendance à séparer artificiellement les aspects techniques et éthiques dans les politiques de l’IA. Il souligne, par exemple, que cette distinction entre « biais algorithmiques » et « menaces de sécurité » est trompeuse et ne reflète pas la complexité des enjeux que soulève l’intelligence artificielle. De plus, il se base sur des exemples concrets, comme des algorithmes générant des instructions pour fabriquer des armes, qui ont des conséquences sociales significatives et directes.
Nous ne pouvons pas traiter les défis de l’IA de manière superficielle ou isolée, ils doivent être considérés dans leur ensemble
Cette perspective prend de l’importance à la suite du récent changement de nom de l’Institut britannique de sécurité en IA, désormais Institut de cybersécurité en IA, et des réductions budgétaires prévues dans l’institution équivalente aux États-Unis. Pour l’entrepreneur, qui possède plus d’une décennie d’expérience à la tête d’équipes de recherche sur les menaces, l’intelligence, l’ingénierie et les sciences des données, ces mouvements illustrent une vision limitée qui identifie la sécurité à la lutte contre le piratage.
Cependant, cette manière de procéder ignore des dimensions cruciales, telles que les vulnérabilités permettant d’extraire des informations sensibles des modèles et les décisions algorithmiques discriminatoires dans les systèmes judiciaires ou médicaux. Sans oublier la création de contenus dangereux, allant de manuels pour fabriquer des explosifs à des matériels d’abus sur mineurs.
D’autre part, dans l’article publié sur le site d’informations américain, le cofondateur de HiddenLayer rejette catégoriquement l’idée d’associer les préoccupations liées à la sécurité de l’intelligence artificielle avec des débats sur la censure. S’il est vrai qu’il note des parallèles avec les controverses sur les réseaux sociaux, il insiste sur le fait que les risques liés à l’IA dépassent largement ce cadre :
« Cela englobe tout, depuis le maintien de secrets nucléaires à l’extérieur des modèles jusqu’à la prévention d’utilisations lors de cyberattaques massives », déclare Chris Sestito.
De plus, ses déclarations interviennent dans un contexte où les États-Unis et le Royaume-Unis ont refusé de signer la déclaration internationale sur une IA éthique, inclusive et sécurisée lors du sommet de Paris qui s’est tenu il y a quelques semaines, contrairement à l’Europe et à 60 autres pays, qui ont plaidé pour une approche axée sur des principes éthiques et durables. Sestito, également connu sous le nom de « Tito », interprète cette décision comme une manifestation de la priorité accordée par ces deux pays à la croissance économique et à la compétitivité plutôt qu’à des mesures réglementaires complètes.
Le directeur général de HiddenLayer estime que les cadres réglementaires jusqu’à présent ont été insuffisants et très peu efficaces. Quelle en est la raison ? Selon lui, il s’agit d’un manque de coordination internationale, de coupes dans la recherche sur la sécurité et d’une sous-estimation des risques, car les actions sont généralement réactives plutôt que préventives. Pour conclure, il souligne que la clé réside dans le développement de politiques qui intègrent des perspectives techniques, éthiques et géopolitiques.