Eric Schmidt, ancien directeur général de Google, met en garde contre les dangers potentiels de l’intelligence artificielle, suggérant qu’un jour, il faudra envisager de « déconnecter » ces systèmes. Il souligne que leur capacité d’auto-amélioration et les défis qu’ils posent exigent une réflexion sérieuse sur leur contrôle.
L’ex-directeur général de Google, Eric Schmidt, avertit qu’il viendra un moment où il faudra « déconnecter » l’IA
Une des principales craintes liées à l’évolution rapide de l’Intelligence Artificielle (IA) est qu’il puisse arriver un moment où cette technologie acquiert sa propre conscience, semblable à Skynet dans la saga de films « Terminator ». À ce sujet, l’ancien PDG de Google a déclaré que, lorsque cela se produira, nous devrons envisager de « déconnecter » les systèmes d’IA.
Eric Schmidt met en garde contre la nécessité de « déconnecter » l’IA
Comme rapporté par le média Axios, l’ancien PDG et président de Google, Eric Schmidt, a récemment accordé une interview au canal américain ABC dans laquelle il a exprimé que lorsque un système informatique atteint un point où il peut s’auto-améliorer, « nous devons sérieusement penser à le déconnecter ».
Lorsque le présentateur de l’émission « This Week » sur ABC, George Stephanopoulos, lui a demandé si un système aussi puissant que l’IA pourrait éviter d’être déconnecté, Schmidt a répondu :
« En théorie, il est préférable d’avoir quelqu’un qui a la main sur la prise. »
Schmidt a également expliqué que le pouvoir de l’IA « signifie que chaque personne aura l’équivalent d’un polymathe dans sa poche » et qu’il ne sait pas ce que cela signifierait de conférer un tel pouvoir à chaque individu.
Lors de son entretien avec ABC, Schmidt a aborder les risques d’accélérer le développement de l’IA générative, ayant déjà averti l’année précédente que des experts avaient prédit que les ordinateurs capables de prendre leurs propres décisions seront une réalité dans deux à quatre ans, au maximum. Il a désormais confirmé qu’dans un an ou deux, les systèmes d’intelligence artificielle seront capables de mener leurs propres recherches.
Pour finir, en réponse à la question de ce qu’il ferait s’il avait le contrôle total de l’IA au niveau mondial, Schmidt a affirmé qu’il veillerait d’abord à ce qu’Occident dispose de financement, hardware et personnel nécessaires pour la contrôler et ensuite identifierait « les pires scénarios possibles » d’utilisation pour construire un second système dédié à la surveillance du premier.
« Les humains ne pourront pas surveiller l’IA. Mais les systèmes d’IA devraient pouvoir surveiller l’IA. »