L’architecte de la sécurité d’OpenAI quitte l’entreprise et appelle à renforcer les garde-fous de l’IA

Le chercheur en sécurité d’OpenAI David Robinson a démissionné début octobre 2026, après trois ans et demi passés au sein de l’entreprise, selon des informations de Crypto Briefing. Son départ s’est accompagné d’un essai publié dans The Atlantic, dans lequel il affirme que les principaux laboratoires d’intelligence artificielle ne renforcent pas leurs garde-fous assez rapidement pour suivre les progrès de la technologie.

Robinson a contribué à concevoir le Preparedness Framework d’OpenAI, un processus interne visant à déterminer si les modèles pourraient développer des capacités présentant des risques graves. Sa décision de partir a donc plus de poids qu’un simple changement de personnel : il était étroitement impliqué dans l’un des systèmes centraux de l’entreprise pour évaluer les comportements dangereux des modèles.

L’essai présente le problème comme dépassant la seule question des contrôles techniques. Robinson soutient que la culture des grandes entreprises d’IA récompense souvent la commercialisation rapide de produits, même lorsque des questions concernant leur fiabilité et les dommages possibles restent sans réponse. Il oppose cette approche à celles de l’aviation et de la sûreté nucléaire, des secteurs dans lesquels une ingénierie rigoureuse et la prudence sont essentielles, car les défaillances peuvent coûter des vies.

Un débat sur la sécurité au sein d’OpenAI

Le départ de Robinson intervient après une période de changements importants au sein des équipes chargées de la sécurité chez OpenAI. En juillet 2026, l’entreprise a réorganisé ces groupes sous la direction de la recherche, en les plaçant spécifiquement sous la responsabilité de la vice-présidente Mia Glaese. Certains employés ont considéré ce changement comme controversé.

Cette structure peut être interprétée de deux manières. Rapprocher les spécialistes de la sécurité de la recherche pourrait leur donner un meilleur accès aux personnes qui développent les nouveaux systèmes. Mais les placer sous l’autorité de dirigeants responsables de la recherche et de la commercialisation des modèles pourrait aussi rendre plus difficile la prise en compte prioritaire des préoccupations de sécurité face à l’élan commercial ou technique.

Plusieurs départs ont suivi la réorganisation. Johannes Heidecke, qui dirigeait les systèmes de sécurité, a quitté OpenAI, tout comme le futurologue en chef Joshua Achiam. En octobre, l’entreprise a licencié trois chercheurs en sécurité — Jasmine Wang, Tomek Korbak et Mikita Balesni — pour avoir prétendument mal géré des informations sensibles au cours d’une enquête interne.

Ces événements s’inscrivent dans une tendance plus longue. Les départs liés à la sécurité se sont accumulés chez OpenAI depuis 2024, notamment celui du cofondateur Ilya Sutskever. Dans ce contexte, les critiques de Robinson devraient être perçues non seulement comme un avertissement extérieur, mais aussi comme un signe supplémentaire des tensions internes autour de l’équilibre entre les garde-fous et le développement.

Pourquoi le cadre compte

Le Preparedness Framework d’OpenAI figure parmi les principales explications publiques fournies par l’entreprise sur la manière dont elle entend repérer et gérer les risques liés à des modèles de plus en plus capables. Le rôle de Robinson dans sa création confère une importance particulière à ses critiques : il remet en cause l’ensemble du secteur après avoir contribué à bâtir l’un des mécanismes censés répondre à ce défi.

Crypto Briefing rapporte également qu’OpenAI fait face à des critiques concernant sa gestion des modèles avancés et a suspendu le lancement prévu de GPT-6.1 Astra. L’article n’établit pas que la démission de Robinson a provoqué cette suspension, mais les deux événements attirent de nouveau l’attention sur la question de savoir si les processus de sécurité actuels de l’entreprise sont suffisants pour sa prochaine génération de systèmes.

Le problème immédiat pour OpenAI est celui de la crédibilité. Un cadre ne peut rassurer le public que si l’entreprise est perçue comme disposée à le respecter, à accorder une véritable autorité aux équipes chargées de la sécurité et à agir en fonction des alertes, même lorsque cela ralentit un lancement. Les récentes réorganisations et les départs de salariés ont rendu cette question plus difficile à résoudre pour l’entreprise.

Des critiques internes à la régulation

Robinson ne se contente pas de quitter le débat. Il travaillerait avec Spitfire Strategies, une agence de relations publiques, à des initiatives visant à promouvoir une régulation plus stricte de l’IA et à exercer une pression extérieure sur les laboratoires afin qu’ils prennent davantage la sécurité au sérieux.

Cette démarche met en évidence une préoccupation plus large de son argumentation : les garde-fous volontaires pourraient ne pas suffire si les entreprises sont fortement incitées à prendre de l’avance sur leurs concurrentes. Si les responsables politiques concluent que les principaux laboratoires ne peuvent pas efficacement s’autoréguler, des règles et une supervision externes pourraient prendre une place plus importante.

Les prochains développements permettront de déterminer si l’avertissement de Robinson gagne du terrain. OpenAI pourrait répondre publiquement à son essai dans The Atlantic, préciser le fonctionnement actuel de ses équipes de sécurité ou fournir une mise à jour sur GPT-6.1 Astra. De nouveaux départs au sein des équipes chargées de la sécurité renforceraient l’impression d’un conflit non résolu entre le développement rapide des modèles et la gestion indépendante des risques.