OpenAI recherche un responsable de la préparation, position clé pour la gestion des risques liés à ses modèles d’IA. Ce rôle mettra au défi le candidat de gérer des enjeux cruciaux, y compris des problèmes de santé mentale et de responsabilité légale, tout en veillant à la conformité et à la sécurité des futurs produits.
“C’est un poste extrêmement stressant et vous y plongerez immédiatement.” Ainsi, Sam Altman a annoncé l’ouverture de une nouvelle position clé chez OpenAI : Responsable de la préparation, chargé de la gestion des risques liés aux modèles d’intelligence artificielle de l’entreprise. Au cours de 2024 et 2025, ChatGPT a été mentionné à plusieurs reprises dans des signalements et des plaintes officielles aux États-Unis, y compris des plaintes auprès de la FTC (la Federal Trade Commission), en raison de réponses incorrectes, d’hallucinations et de problèmes de santé mentale rapportés par certains utilisateurs. Sora — le modèle de génération vidéo — a également présenté des contenus problématiques, comme des vidéos deepfake de personnalités historiques ou publiques.
Le candidat retenu devra diriger et renforcer le programme de sécurité d’OpenAI. L’annonce mentionne une responsabilité complète sur la stratégie de préparation d’OpenAI, allant de l’évaluation des capacités indésirables des modèles à la conception de systèmes de mitigation. En d’autres termes, cela implique de prévoir à l’avance les déformations des produits de l’entreprise et de prouver que les risques sont réduits à un niveau acceptable, même d’un point de vue légal.
Risques et responsabilités de ChatGPT
Le salaire proposé, selon l’annonce, est à la hauteur de la tâche : jusqu’à 555 000 dollars par an. Il s’agit d’un rôle très délicat. Les conséquences des erreurs de l’IA ne sont pas uniquement réputationnelles. Certaines affaires ont fini devant les tribunaux. Parmi les plus graves, la poursuite pour homicide involontaire intentée par la famille d’Adam Raine, qui accuse ChatGPT d’avoir encouragé le suicide de leur fils.
Altman reconnaît lui-même que les modèles peuvent influencer la santé mentale et entraîner des effets imprévus. C’est pourquoi il souligne la nécessité “d’une compréhension plus nuancée et d’une évaluation plus précise de la manière de limiter les dommages, sans renoncer aux bénéfices.” La mission du nouveau responsable de la préparation sera de trouver un équilibre entre progrès et risques.
Préparer l’imprévu : sécurité et croissance dans l’IA
Altman a déclaré qu’OpenAI vise à augmenter son chiffre d’affaires annuel de plus de 13 milliards de dollars à 100 milliards en moins de deux ans. La stratégie est axée sur de nouveaux produits destinés aux consommateurs, des appareils physiques basés sur l’IA et de nouvelles plateformes. Dans ce contexte, le Responsable de la préparation devra superviser la conception des mesures de sécurité non seulement pour les prochaines versions de ChatGPT et Sora, mais aussi pour des technologies qui n’ont pas encore quitté les laboratoires. Ce n’est pas un simple garant, mais un médiateur entre ambitions industrielles, pressions réglementaires et responsabilités sociales.
Il devra traduire des concepts abstraits comme “risque acceptable” et “utilisation abusive” en métriques, protocoles et décisions concrètes, sachant que chaque nouvelle version d’un modèle peut ouvrir des scénarios imprévus, tant technologiques qu’humains. D’ailleurs, OpenAI — à l’instar de l’ensemble du secteur de l’IA — a choisi une autre voie : coexister avec le risque, en cherchant à le gérer.