Google révise ses lignes directrices éthiques sur l’intelligence artificielle, suscitant des inquiétudes au sein de la communauté scientifique. Alors que l’entreprise avait initialement promis de ne pas utiliser l’IA pour des fins militaires ou de surveillance, elle admet que la sécurité nationale doit désormais être priorisée, attisant les craintes des experts.
L’annonce de Google arrive au milieu d’une campagne pour freiner le développement incontrôlé de l’intelligence artificielle. Les chercheurs et les experts du secteur signent des lettres et publient des études demandant d’accompagner le progrès de lignes directrices et de normes rigides pour éviter les risques.
« Ne soyez pas malveillant », dit le célèbre slogan de Google. Cet adage semble en contradiction avec les nouvelles politiques de l’entreprise. En effet, Google avait promis en 2018 que son intelligence artificielle ne serait pas utilisée pour développer des armes ou des outils de surveillance. Pourtant, le 4 février, elle revient sur ses engagements en actualisant ses lignes directrices éthiques. Demis Hassabis, responsable de l’IA chez Google, a affirmé qu’une révision était nécessaire pour s’ajuster à un monde en évolution constante, précisant que l’intelligence artificielle « devrait également être utilisée pour la sûreté nationale ».
Dans un article de blog, Hassabis et le vice-président senior pour la technologie et la société de l’entreprise, James Manyika, ont déclaré : « Nous pensons que les entreprises, les gouvernements et les organisations partageant des valeurs démocratiques doivent collaborer pour créer une intelligence artificielle qui protège les individus, favorise la croissance mondiale et soutienne la sécurité nationale« . Cela inclut donc les armes et les systèmes de surveillance.
Ce que dit le post de Google
Le post de Google explique qu depuis le moment où l’entreprise a publié ses premières directives sur l’intelligence artificielle (celles qui empêchaient les logiciels de créer des « armes ou d’autres technologies dont le but principal entraîne ou facilite directement des blessures aux personnes » et « des technologies qui collectent ou utilisent des informations pour la sorveillance en violation des normes acceptées à l’échelle internationale »), la technologie a rapidement évolué. « Des milliards de personnes utilisent l’IA dans leur quotidien. L’IA est devenue une technologie courante et une plateforme que d’innombrables organisations et individus utilisent pour créer des applications », expliquent Hassabis et Manyika.
Elle est passée d’un sujet de recherche de niche en laboratoire à une technologie devenant aussi omniprésente que les téléphones mobiles et Internet eux-mêmes; une technologie avec de nombreux avantages pour la société et les personnes à travers le monde, soutenue par un écosystème florissant de développeurs d’intelligence artificielle.
Pourquoi les nouvelles lignes directrices de Google peuvent être très dangereuses
L’annonce de Google arrive au milieu d’une campagne pour freiner le développement incontrôlé de l’intelligence artificielle. Les chercheurs et les experts du secteur signent des lettres et publient des études demandant d’accompagner le progrès de lignes directrices et de normes rigides pour éviter les risques.
L’informaticien britannique Stuart Russell a souligné à plusieurs reprises les dangers du développement de systèmes d’armes autonomes, affirmant qu’un système de contrôle global était nécessaire. Le même Geoffrey Hinton, lauréat du prix Nobel et souvent considéré comme le parrain de l’intelligence artificielle, a tiré la sonnette d’alarme : « La technologie avance plus vite que prévu et nous n’avons jamais eu à faire face à quelque chose de plus intelligent que nous. Combien d’exemples connaissons-nous d’une chose plus intelligente qui est contrôlée par quelque chose de moins intelligent? »