Les robots tueurs de la police de San Francisco nous préoccupent aussi : « Le risque, c’est que ce ne soit que le début »

Les Robots Tueurs De La Police De San Francisco Nous

La police de San Francisco a également décidé d’ajouter des robots tueurs à son arsenal. Ce sont des machines capables d’utiliser une force létale pour contrecarrer les situations les plus dangereuses.

D’abord la demande, puis la confirmation. A terme, des robots capables de tuer entreront dans l’arsenal de la police de San Francisco. Avec huit voix pour et trois contre, le conseil de surveillance a décidé que les plus hauts gradés de la police pourront conduire des robots équipés d’explosifs et les utiliser pour tuer des gens mais uniquement dans des situations extrêmement critiques.

Les cas pour lesquels cette technologie est conçue ne sont pas nombreux et concernent principalement des situations dans lesquelles le décès d’un individu pourrait permettre de sécuriser la vie d’autrui. Quelque chose qui arrive, par exemple, quand il y a un kamikaze tenant des otages sous la menace d’une arme. Avant cette demande, des robots étaient déjà utilisés par la police pour des interventions délicates comme la neutralisation de bombes non explosées.

La connexion est facile. Cette position se heurte à la première loi de la robotique théorisée dans les romans d’Isaac Asimov : « Un robot ne peut pas nuire à un être humain ni permettre que, du fait de son absence d’intervention, un être humain soit blessé ». La réflexion qui s’y cache est cependant plus complexe. Nous en avons parlé avec Fabio Fossi, professeur d’éthique des technologies à l’École polytechnique de Milan.

Départ obligatoire. Sommes-nous déjà en train d’enfreindre les lois d’Asimov ?

Les lois d’Asimov sont conçues pour des robots autonomes capables de prendre des décisions. C’est une technologie que nous n’avons pas, du moins pas encore. Nous avons des systèmes qui se déplacent en suivant des instructions, parfois plus détaillées, parfois moins. Dans le cas des robots de San Francisco, on parle d’un contexte de dépendance totale. Ils se déplacent uniquement avec un opérateur externe.

L’une des critiques les plus citées des robots de San Francisco est que ce n’est peut-être que le début.

Le thème de l’escalade est fondamental, tout comme ce processus appelé pente glissante. On part d’une base qui semble inoffensive et puis on arrive rapidement à une condition qu’au départ on qualifierait d’inacceptable. La condition de l’escalade est réelle.

Quelle est la différence entre un robot capable de tuer et un agent qui a le même rôle ?

Si des robots capables de tuer sont introduits, alors la distance entre ceux qui prennent la décision de tuer et ceux qui l’exécutent augmente. Cette distance présente des avantages en termes de sécurité : vous n’exposez pas un sujet humain au risque d’être blessé ou tué.

Et ne devrait-il pas être moins dangereux pour les forces de l’ordre ?

Bien sûr, c’est moins dangereux pour un flic. Mais ensuite, il manque une personne sur le terrain qui soit empathique, formée et éduquée pour éviter d’utiliser la force de manière mortelle. Une option qui ne doit être choisie que lorsqu’il n’y a pas d’autre solution.

Les robots tueurs peuvent-ils changer le travail de la police ?

Nous pensons souvent que la disponibilité de certains outils n’a aucun impact sur ce que nous faisons. Nous pensons qu’un robot capable d’exercer une force létale n’est qu’un outil parmi d’autres dont dispose la police. Ce n’est pas comme ça, les outils que nous avons en main changent aussi la façon dont nous prenons nos décisions.

Comment?

Nous faisons également une autre passe. Pourquoi ces robots étaient-ils uniquement destinés à être une force mortelle ? Pourquoi n’ont-ils pas également des systèmes qui peuvent nous aider à dissuader un attaquant ? Cela nous en apprend beaucoup sur notre relation avec les robots et sur ce que nous attendons d’eux.

Ces dernières années, l’Union européenne s’est révélée être l’une des rares instances politiques capables de réguler le marché. Sera-t-il capable d’arrêter l’avancée des robots tueurs ?

En Europe, nous avons une approche plus prudente, que certains perçoivent comme un frein au développement mais qui permet de placer les valeurs culturelles au cœur du progrès technologique. C’est très différent de celui de la Silicon Valley où au contraire l’important est de faire et les conséquences importent peu.