Les plans d’IA d’Apple sont incertains, alors que les pionniers se disputent les risques de la technologie

Les plans d'IA d'Apple sont incertains, alors que les pionniers se disputent les risques de la technologie

Il y a eu beaucoup de spéculations sur les plans d’Apple AI, car la société Cupertino a jusqu’à présent gardé un profil bas tandis que Google et Microsoft plongent dans l’intelligence artificielle générative de manière considérable. Le PDG Tim Cook n’a pas fait beaucoup de lumière lorsqu’il a été interrogé à ce sujet la semaine dernière, disant seulement que l’IA est « certainement intéressante » mais qu’il y a « un certain nombre de problèmes avec la technologie ».

La gravité de ces problèmes fait l’objet de nombreux débats. Le mois dernier, le cofondateur d’Apple, Steve Wozniak, s’est joint à d’éminents universitaires en IA pour appeler à une pause dans le développement avancé de l’IA – mais deux pionniers de l’IA ont des points de vue nettement différents sur les risques…

Une brève histoire des chatbots, en quatre paragraphes

Il existe de nombreuses technologies où les progrès semblent très progressifs jusqu’à ce que – bang ! – un énorme changement semble se produire du jour au lendemain. La technologie d’IA générative comme ChatGPT en fait partie.

Depuis plus d’un demi-siècle, on s’est efforcé de rendre les ordinateurs capables de passer le test de Turing : générer des interactions indiscernables de celles d’un être humain.

ELIZA a été l’un des premiers chatbots à avoir réussi à tromper les gens, en 1964. Tout ce qu’il a fait, c’est refléter ce que quelqu’un a dit et poser des questions à la manière d’un conseiller, mais certains de ceux qui l’ont testé étaient convaincus qu’il s’agissait d’une personne.

ChatGPT a porté cette capacité à fournir des réponses de type humain à un tout autre niveau. Essentiellement, tout ce que la technologie fait réellement est d’étudier des textes pertinents à la question posée ou à l’instruction donnée, et d’utiliser des statistiques pour prédire quel mot est le plus susceptible de suivre ensuite. Il continuera ainsi jusqu’à ce qu’il ait formé un certain nombre de phrases ou de paragraphes. Mais il est devenu de plus en plus sophistiqué, au point que le résultat peut être incroyablement convaincant.

Questions posées sur les plans d’IA d’Apple

Dès que ChatGPT et Bard ont fait la une des journaux, les gens ont commencé à poser des questions pointues sur les plans d’IA d’Apple et à suggérer que l’entreprise était laissée pour compte.

J’ai exprimé mon propre point de vue selon lequel Apple était susceptible d’être prudent dans l’utilisation de cette technologie pour rendre Siri plus intelligent, pour deux raisons.

Tout d’abord, l’approche caractéristique d’Apple pour presque toutes les nouvelles technologies : attendre et voir. L’entreprise essaie rarement d’être précoce sur le marché avec une nouvelle technologie. Au lieu de cela, il regarde ce que font les autres, puis essaie de trouver comment le faire mieux.

Mais il y a une deuxième raison plus spécifique. Des systèmes comme ChatGPT sont bons pour paraître intelligents. Ils écrivent de manière très convaincante, car ils ont été formés sur des millions de documents écrits par des êtres humains, et ils empruntent essentiellement à tout ce qu’ils ont vu pour tout reproduire, des phrases spécifiques aux structures de documents.

Mais ils obtiennent également toutes leurs connaissances apparentes de ces mêmes millions de sources. Parmi ceux-ci, ils n’ont aucune idée de la façon de distinguer la vérité de la fiction ; position raisonnée par rapport aux préjugés ; preuves statistiques de biais ; données fiables de la malbouffe.

Le sens de cette prudence a été rapidement démontré avec certaines catastrophes de chatbot Bing, et plus encore.

Cook tenait à souligner la semaine dernière qu’Apple utilise déjà l’IA, et pas seulement pour Siri.

L’exécutif a énuméré certaines des réalisations d’Apple dans le segment de l’IA, telles que l’utilisation de la technologie pour créer des fonctionnalités telles que la détection de chute, la détection de collision et l’ECG de l’Apple Watch. « Ces choses ne sont pas seulement d’excellentes fonctionnalités, elles sauvent la vie des gens », a déclaré Cook.

Mais il a également fait référence à des « problèmes » avec la technologie.

Même les meilleurs experts en IA ne peuvent pas s’entendre sur les risques

Même les pionniers de l’IA les plus célèbres au monde ne parviennent pas à s’entendre sur la nature ou la gravité de ces problèmes.

Une menace plus urgente que le changement climatique

Geoffrey Hinton est souvent désigné comme « l’un des parrains de l’IA ». Il est une figure clé du développement des réseaux de neurones, a écrit de nombreux articles et a remporté de nombreux prix pour son travail dans le domaine.

Il était tellement préoccupé par les dangers du travail actuel sur l’IA qu’il a quitté son poste chez Google afin d’être libre de parler librement des risques.

Il a dit à Reuters à quel point il était inquiet.

L’intelligence artificielle pourrait constituer une menace « plus urgente » pour l’humanité que le changement climatique, a déclaré le pionnier de l’IA Geoffrey Hinton à Reuters dans une interview vendredi […]

Il a ajouté : « Avec le changement climatique, il est très facile de recommander ce que vous devriez faire : vous arrêtez simplement de brûler du carbone. Si vous faites cela, les choses finiront par s’arranger. Pour cela, ce que vous devez faire n’est pas du tout clair.

Cependant, il ne pense pas que la recherche sur l’IA doive être interrompue : au contraire, il pense que davantage de travail est essentiel pour déterminer comment réagir aux risques.

Je suis dans le camp qui pense qu’il s’agit d’un risque existentiel, et c’est suffisamment proche pour que nous travaillions très dur en ce moment et que nous consacrions beaucoup de ressources à déterminer ce que nous pouvons faire à ce sujet.

L’IA ne peut pas être arrêtée, mais ne doit pas être redoutée

Jürgen Schmidhuber a été surnommé « le père de l’IA » pour son travail sur le traitement du langage naturel au sein des réseaux de neurones – la technologie derrière Siri et Google Translate. Il a également écrit un grand nombre d’articles et a remporté des prix pour son travail.

Bien que lui et Hinton ne soient pas d’accord sur beaucoup de choses, ils conviennent tous les deux que le développement de l’IA ne peut pas être arrêté. Schmidhuber, cependant, a déclaré au Guardian qu’il pensait que les dangers étaient exagérés.

Un pays peut avoir des objectifs très différents d’un autre pays. Alors, bien sûr, ils ne participeront pas à une sorte de moratoire. Mais je pense que vous ne devriez pas non plus l’arrêter. Parce que dans 95% des cas, la recherche sur l’IA concerne vraiment notre ancienne devise, qui est de rendre la vie humaine plus longue, plus saine et plus facile.

De nombreuses craintes concernaient les risques que les systèmes d’IA décident de commencer à ignorer les contraintes qui leur sont imposées par les humains. Schmidhuber dit que c’est vrai, mais cela ne veut pas dire qu’ils vont commencer à nous faire du mal.

Schmidhuber pense que l’IA progressera au point où elle dépassera l’intelligence humaine et ne s’intéressera plus aux humains – tandis que les humains continueront à bénéficier et à utiliser les outils développés par l’IA.

Avis de Netcost-security.fr

Il faudrait un homme plus courageux que moi pour prendre position sur un combat entre deux des plus grands experts en la matière ! Mais le débat semble quelque peu académique, étant donné que les deux conviennent qu’il est impossible de suspendre la recherche sur l’IA.

Sur la question plus banale de savoir quand et comment Apple utilisera ce type de technologie pour rendre Siri plus intelligent, il est clair qu’il doit le faire à un moment donné, sinon il sera vraiment laissé pour compte. Il est cependant tout aussi clair qu’il est peu probable que cela se fasse rapidement, pour les raisons que j’ai données précédemment. En particulier, qu’une réponse parlée est plus dangereuse qu’une réponse affichée sur un écran, car il est moins probable que les gens prennent la peine de la vérifier.

Siri est conçu pour fournir des réponses orales à des questions verbales. S’il y a une chose plus ennuyeuse que Siri « répondant » à une question par « Voici ce que j’ai trouvé sur le Web », ce serait « Voici une longue réponse que vous devez d’abord écouter, alors je noterai que ce n’est peut-être pas correct, et vous recommandons de rechercher sur le Web.

J’espère vivement que HomeKit est l’un des domaines prioritaires d’Apple pour le chat génératif.

S’il vous plaît partager vos propres pensées sur nos réseaux sociaux.

Photo : Mise au point maximale/Unsplash

Détente, découvrez l’évolution du nombre de smartphones vendus par marque au fil du temps dans la vidéo ci-dessous :

YouTube video