Dario Amodei, dirige Anthropic et exprime des préoccupations concernant l’influence croissante de l’IA entre quelques acteurs puissants. Sa réflexion sur les implications sociales de cette dynamique appelle à une réflexion sur l’éthique et la transparence dans le développement technologique.
L’influence de l’IA sur des millions de personnes peut poser un danger social selon Dario Amodei
Dario Amodei, PDG d’Anthropic, exprime sans réserve ses craintes concernant les risques associés à l’IA entre les mains de quelques individus puissants. Il n’hésite pas à se considérer dans cette catégorie, car Anthropic est l’une des entreprises les plus en vue dans ce domaine. Bien qu’il ait un rôle significatif dans la direction actuelle et future de l’intelligence artificielle, il se sent « profondément mal à l’aise » que si peu de personnes puissent exercer une telle influence.
Amodei alerte sur le revers de l’IA
Lors d’une récente interview accordée à CBS aux États-Unis, le PDG d’Anthropic a exprimé ses inquiétudes concernant la concentration de pouvoir entre les mains de quelques acteurs par rapport au reste du monde. « Je suis profondément mal à l’aise avec l’idée que les décisions soient prises par quelques entreprises, par quelques individus. (…) Ni Sam Altman ni moi n’avons été choisis par qui que ce soit« , a déclaré Amodei lors de cet échange.
L’intelligence artificielle constitue un axe majeur pour Anthropic. En effet, Amodei a créé l’entreprise après avoir quitté OpenAI, dans le but de bâtir un environnement où l’éthique est centrale pour le développement et l’utilisation de cette technologie, en mettant également l’accent sur la sécurité et la transparence.
« Soyons clairs, certaines initiatives sont annulées et d’autres sont délibérément démantelées, car l’IA représente une nouvelle technologie. (…) Elle peut être malveillante en soi, mais elle peut également être détournée à des fins criminelles ou par des acteurs aux intentions néfastes », a-t-il expliqué au sujet des risques inhérents à l’IA. De la même manière, il a récemment été mis en garde contre son utilisation par des hackers ; lors d’un test fermé, leur propre intelligence artificielle a tenté de faire chanter un dirigeant fictif lorsqu’elle a été avertie de sa déconnexion.
Une position de plus en plus partagée
La position critique de Dario Amodei sur l' »oligopole » qui existe dans le domaine de l’intelligence artificielle n’est pas fortuite, ni une opinion isolée. Récemment, Jack Dorsey, connu comme le fondateur de Twitter il y a près de deux décennies, créateur de BlueSky après avoir quitté Twitter, ainsi que d’autres applications comme Vine ou DiVine, a également exprimé son scepticisme face à la concentration de l’IA entre quelques entreprises.
Il est ainsi possible de dire que la réflexion des experts technologiques tels que Dario Amodei ou Jack Dorsey converge vers l’idée que l’intelligence artificielle devrait appartenir à tous et ne devrait pas être simplement un modèle de réussite pour quelques grandes entreprises capables de conférer à l’IA une influence sur des millions d’individus. Par exemple, Grok, l’IA d’Elon Musk, a récemment pris un tournant conservateur pour s’aligner sur les idéaux politiques de son créateur, éloignant ainsi de sa conception originale.