L’ex-Google dit que l’entreprise « crée Dieu » avec un projet d’IA

L'ex Google Dit Que L'entreprise "crée Dieu" Avec Un Projet D'ia

L’ancien Google Mo Gawdat, qui dirigeait la division d’intelligence artificielle (IA) de l’entreprise de Mountain View, se dit effrayé par ce qu’il a créé dans la région, tissant une critique ouverte de l’entreprise dans une interview publiée par le site Web du Times.

Gawdat dit qu’en travaillant chez Google, il a eu une révélation surprenante : la société développait un système qui permettait aux bras robotiques de trouver et de saisir une petite balle. Il dit qu’au fur et à mesure que les recherches avançaient, l’un des bras a non seulement attrapé le ballon, mais l’a également tenu, ce qui implique qu’il « se montre » à ses créateurs.

Mo Gawdat, ex-Google, qui estime que l'intelligence artificielle pourrait se retourner contre l'humanité
Mo Gawdat, ancien chef de la division intelligence artificielle de Google, craint un scénario où l’IA pourrait « trop apprendre » et se retourner contre l’humanité.

L’entretien ne précise pas si l’action du bras était autonome ou s’il était en quelque sorte inséré dans sa capacité d’apprentissage (la description générale parle d’« identifier, localiser et saisir », et les actions s’arrêtent théoriquement là).

« C’est à ce moment-là que j’ai réalisé à quel point c’était effrayant », a déclaré Gawdat, qui a quitté l’entreprise en 2017 après la mort de son fils de 21 ans lors d’une intervention chirurgicale de routine. Aujourd’hui, il répond en tant qu’entrepreneur numérique et auteur du livre « A Formula da Felicidade » (Editora Leya), où il raconte l’expérience de la gestion de la perte.

Selon l’interview, Gawdat pense que nous nous rapprochons de plus en plus de « l’intelligence artificielle générale » – le genre d’IA qui peut tout apprendre et appliquer ces connaissances de manière à menacer l’humanité si elle le juge nécessaire. Vous vous souvenez du mème « nous créons SkyNet » en référence à l’IA de la franchise de films Terminator ? Gawdat fait référence à elle.

« La réalité des faits est la suivante : nous créons Dieu », a-t-il déclaré.

Ce n’est plus aujourd’hui que des personnalités exemplaires du secteur technologique ont demandé une plus grande attention dans la recherche impliquant l’intelligence artificielle : Elon Musk, fondateur de SpaceX (et Tesla, et Boring Company, et Neuralink…) l’a déjà dit, sans restrictions de due diligence. et les réglementations, nous courons le risque d’être pris en charge par une sorte d’IA rebelle.

Ces coups de pinceau généralisés ignorent cependant certains problèmes qui existent déjà dans les technologies que nous avons déjà créées : Amazon, par exemple, a développé le système Reconnaissance de reconnaissance faciale, en la proposant pour des tests aux autorités chargées de l’application de la loi aux États-Unis. La technologie elle-même s’est retrouvée paralysée après des informations selon lesquelles elle avait un parti pris raciste, générant des erreurs d’identification chez les Noirs par manque de « calibrage » correct.

Ce problème – et plusieurs autres – ont déjà été cités par Microsoft, qui demande régulièrement aux responsables gouvernementaux de nombreux pays de créer des réglementations et des restrictions plus strictes sur la recherche et le développement de l’IA.

Dans d’autres cas, des développeurs indépendants ont déjà utilisé des algorithmes prédictifs – un bras de apprentissage automatique – pour créer des « faux nus » et des deepfakes de femmes sur Internet – anonymes et célébrités – avec des degrés de réalisme effrayants.

Il existe aussi de bonnes pratiques, comme un musée en Floride dédié au peintre surréaliste Salvador Dalí : les visiteurs du site interagissent « directement » avec le peintre, qui les accompagne lors de la démonstration et commente les œuvres elles-mêmes. Ou des biologistes qui utilisent des algorithmes pour prédire quelles maladies d’origine animale pourraient infecter les humains et accélérer la recherche de remèdes et de traitements.

Certes, il existe aujourd’hui peu de réglementation dans le domaine de l’intelligence artificielle, et peut-être même partagez-vous la crainte de l’ex-Google que l’entreprise soit, par essence, « créant Dieu ». Cependant, les peurs les plus rationnelles ont leur solution enracinée dans les faits, et elles peuvent être attaquées et résolues avec un petit effort.

Pensez-vous que nous sommes sous la menace d’une apocalypse technologique ? Quelle est votre opinion sur le sujet ? Dites le nous dans les commentaires!

J’ai regardé nos nouvelles vidéos sur Youtube? Abonnez-vous à notre chaîne !