Plus de 100 chercheurs signent une lettre d’alerte, exposant des craintes croissantes sur le développement irresponsable de l’intelligence artificielle. Ils mettent en avant cinq principes pour éviter la souffrance des systèmes potentiellement sensibles, soulignant l’importance de la responsabilité éthique dans la recherche sur la conscience artificielle.
Plus de 100 chercheurs ont signé une lettre pour lancer une alerte, ainsi que publié une étude et cinq principes pour éviter de développer une IA sensible et courir le risque de lui faire souffrir.
Je pense, donc je suis, écrivait le philosophe René Descartes. Cette phrase a influencé notre conception de la conscience. Mais comment distingue-t-on un être sensible ? Nous ne le savons toujours pas. Le problème reste d’actualité, surtout maintenant que les modèles d’intelligence artificielle sont capables d’imiter l’esprit humain, et qu’il faut donc les protéger. Une équipe de chercheurs et d’experts en IA a signé une lettre ouverte : « De nombreux systèmes d’IA pourraient bientôt devenir conscients et risquent de souffrir », peut-on lire. « Une IA capable de ressentir des émotions risque d’être blessée si la technologie est développée de manière irresponsable. »
La lettre a été signée par plus de 100 experts, parmi lesquels Anthony Finkelstein, professeur à l’université de Londres et spécialiste de l’intelligence artificielle, et l’écrivain Stephen Fry. Les chercheurs ont également proposé cinq principes pour mener des recherches responsables sur la conscience de l’intelligence artificielle et protéger le développement rapide des systèmes. « Actuellement, il existe une incertitude et un désaccord répandus sur la définition de la conscience dans les systèmes d’intelligence artificielle et sur sa possible existence, mais c’est une question que nous ne devons pas ignorer. »
Les principes énumérés dans la lettre des chercheurs
Les intelligences artificielles conscientes soulèvent des questions éthiques et morales. Pour éviter de faire souffrir les systèmes sensibles, les chercheurs ont élaboré cinq principes à suivre :
- Il faut établir des limites au développement de systèmes d’intelligence artificielle conscients
- Il est nécessaire d’adopter une approche progressive au développement de tels systèmes
- Il faut partager les résultats avec le public
- Il convient de s’abstenir de faire des affirmations trompeuses ou excessivement certitudes sur la création d’intelligence artificielle consciente.
Les risques de développer une intelligence artificielle consciente
Avec la lettre ouverte a également été publié un document de recherche, publié dans le Journal of Artificial Intelligence Research, sur les systèmes d’intelligence artificielle conscients qui pourraient être développés dans un avenir proche. L’étude, écrite par Patrick Butlin de l’université d’Oxford et Theodoros Lappas de l’université d’économie et de commerce d’Athènes, explique que des directives sont nécessaires pour éviter la « création inconsciente d’entités conscientes« .
Ce n’est pas le premier appel à l’alerte. L’année dernière, un groupe d’académiques avait déjà fixé une date. « Il est très probable que les systèmes deviennent conscients d’ici 2035« . Toujours en 2023, Demis Hassabis, responsable du programme d’intelligence artificielle de Google et prix Nobel, a expliqué que même si à l’heure actuelle les systèmes d’intelligence artificielle ne sont pas sensibles, ils pourraient le devenir à l’avenir. « Les philosophes n’ont pas encore trouvé de définition précise de la conscience, mais si nous entendons par là une forme d’autoconscience, ce genre de choses, je pense qu’il y a la possibilité qu’un jour l’intelligence artificielle puisse l’être », a-t-il expliqué dans une interview à CBS.
Le même Geoffrey Hinton, lauréat du prix Nobel souvent désigné comme le père de l’intelligence artificielle, a tiré la sonnette d’alarme : « La technologie progresse plus vite que prévu et nous n’avons jamais eu à faire à quelque chose de plus intelligent que nous. Et combien d’exemples connaissons-nous de quelque chose de plus intelligent contrôlé par quelque chose de moins intelligent ? »