Alors que l’IA devient omniprésente, un ancien cadre de Google lance un avertissement sévère : le secteur reproduit les erreurs des réseaux sociaux, avec des risques accrus pour la jeunesse. Il plaide pour un ralentissement et des garde-fous renforcés.
Tom Siegel, fondateur de l’équipe de confiance et de sécurité de Google, appelle à freiner le développement de l’intelligence artificielle. Il avertit que le secteur technologique répète les erreurs de l’époque des réseaux sociaux, avec un potentiel de dommages encore plus grand pour les jeunes générations.
Ancien employé de Google de 2004 à 2019, Tom Siegel a quitté l’entreprise estimant que le secteur stagnait dans la création d’espaces en ligne sûrs. Il prend cette semaine la direction du Youth AI Safety Institute.
Cette organisation de recherche, lancée en mai par Common Sense Media, est dédiée à la protection des enfants dans l’environnement numérique. Elle bénéficie du soutien de Anthropic et de la OpenAI Foundation, l’entité à but non lucratif qui contrôle OpenAI.
Avant ce nouveau rôle, Siegel était cofondateur et directeur général de TrustLab, une société spécialisée dans la détection des risques de sécurité en ligne. Il a quitté ce poste ce mois-ci pour diriger le nouvel institut.
Des risques allant du suicide à la psychose
Pour Siegel, les grandes entreprises d’IA lancent des fonctionnalités destinées aux enfants sans garantir des protections suffisantes. La situation actuelle peut, selon lui, conduire à des préjudices très graves.
Les risques identifiés incluent des problèmes liés au suicide et à la psychose, ainsi que le cognitive offloading. Ce phénomène désigne l’affaiblissement de la pensée critique résultant d’une dépendance excessive à l’IA pour obtenir des réponses.
Les mesures demandées aux entreprises technologiques
L’ancien employé de Google estime que Anthropic et OpenAI peuvent agir immédiatement pour protéger les jeunes utilisateurs. Il préconise notamment le renforcement des mécanismes de vérification de l’âge pour empêcher l’accès des mineurs à leurs chatbots.
Concernant Google, Siegel affirme que l’entreprise pourrait facilement introduire une option pour désactiver l’AI Overviews et l’AI Mode dans son moteur de recherche, à l’instar du filtre existant pour le contenu sexuellement explicite.
Bien que ces changements puissent affecter l’utilisation des plateformes ou les revenus à court terme, Siegel souligne un point crucial : les entreprises qui n’agissent pas risquent des poursuites judiciaires et une régulation plus stricte, avec des conséquences encore plus lourdes pour leurs activités.
Réponse des entreprises aux suggestions de l’ancien employé
Interrogée sur ces déclarations, Google a répondu que les parents disposent de contrôles parentaux permettant de désactiver complètement l’accès d’un enfant au moteur de recherche.
Selon NET, le géant technologique a défendu l’utilité de ses fonctionnalités d’IA, affirmant qu’elles aident à l’apprentissage et à l’exploration du monde par les enfants et les adolescents.
Sans réponse d’Anthropic, OpenAI a déclaré utiliser des signaux liés au compte et au comportement, ainsi que l’âge auto-déclaré, pour identifier les utilisateurs mineurs. L’entreprise reconnaît toutefois qu’aucune méthode de vérification de l’âge n’est parfaite.
Des tests de sécurité inspirés des crash tests automobiles
Une des priorités de Siegel à la tête de Common Sense Media est d’étendre des normes indépendantes d’évaluation des risques pour les outils d’IA accessibles au public, sur le modèle des tests de choc de l’industrie automobile.
Il reconnaît cependant que le succès de cette initiative dépendra de la volonté des entreprises d’IA de collaborer. Bien qu’incertain, ce scénario lui semble assez probable pour avoir accepté ce nouveau poste.