OpenAI aurait fait passer la course à l'IA avant sa sécurité, selon des salariés cités par Reuters

Un enregistreur audio dissimulé dans du papier toilette, dans une salle de réunion de la direction d'OpenAI : le 13 octobre, la justice américaine annonçait l'arrestation d'un ingénieur de l'entreprise, accusé de l'y avoir caché (nous l'avions raconté). D'anciens salariés n'ont pas été surpris, rapporte l'agence Reuters dans une enquête publiée le 3 novembre.

Selon cinq personnes au fait du dossier, des employés alertent depuis des années la direction et des membres du conseil d'administration sur une sécurité opérationnelle trop lâche, certains dès avant la sortie de ChatGPT, fin 2022. Plusieurs en ont conclu que la direction préférait suivre le rythme de Google et d'Anthropic plutôt que verrouiller ses systèmes. Ces salariés estimaient que des acteurs extérieurs, gouvernements étrangers compris, pouvaient obtenir des informations sensibles avec une relative facilité.

Ce que décrivent les sources de Reuters

• Un dépôt de code presque unique. L'essentiel du code d'OpenAI se trouvait dans un seul dépôt. Quiconque y avait accès pouvait consulter le détail de nombreux projets, y compris sensibles et sans lien avec son travail. Les agents d'IA rendent aujourd'hui ce genre de fouille plus facile, relève Reuters.
• Des documents de recherche stockés sur GitHub et Slack, ce qui inquiétait certains employés.
• Des environnements de test peu contrôlés. Selon trois sources, les « bacs à sable » qui servent à éprouver les modèles n'étaient pas régulièrement audités, et les modifications des salariés pas toujours vérifiées.

L'affaire du micro illustre le risque : selon un document judiciaire cité par Reuters, l'ingénieur aurait utilisé un outil d'IA interne pour retrouver des documents sur les déplacements des dirigeants en Arabie saoudite. Reuters rappelle aussi qu'en juillet 2026, trois chercheurs de la société Hacktron AI ont, selon celle-ci, utilisé un modèle d'Anthropic pour entrer dans des comptes ChatGPT de salariés d'OpenAI. Ils ont atteint certains systèmes internes, dont ce dépôt. OpenAI dit les avoir remerciés et avoir pris des mesures.

OpenAI conteste, mais réorganise

Sa porte-parole, Elana Widmann, présente OpenAI comme « l'une des organisations les plus ciblées au monde », qui investit lourdement contre les menaces internes, les cybercriminels et les États. Selon l'entreprise, ses travaux les plus sensibles sont rangés dans des dépôts séparés à accès strict, et le dépôt commun ne contient ni tout le code ni les poids des modèles, c'est-à-dire leurs paramètres. Elle dit auditer désormais régulièrement ses outils internes, sous la direction de son responsable de la sécurité, Dane Stuckey, arrivé en octobre 2024.

Deux sources décrivent pourtant un virage. Thibault Sottiaux, un cadre produit, a pris en main un chantier interne de sécurité. En août, selon l'une d'elles, il a réaffecté un quart des ingénieurs de production aux infrastructures de sécurité.

Le lundi 2 novembre, après les questions de Reuters, OpenAI a annoncé son prochain « sprint » de sécurité interne. Elle fait appel à Cathedral, une jeune pousse fondée par quatre anciens du DOGE, la cellule de réduction des dépenses publiques lancée par Elon Musk. Ses équipes « utiliseront les modèles d'OpenAI aux côtés de nos équipes pour mettre nos défenses à l'épreuve », écrit l'entreprise, qui dit aussi plus que quadrupler les primes versées pour les failles critiques qu'on lui signale.

Un partenaire lui-même contesté

Le choix fait réagir. Fin octobre, Cathedral a affirmé s'être introduit chez Anthropic dans le cadre de son programme de primes aux failles (lire notre article). La start-up disait au Washington Post y être parvenue en moins de douze heures et avoir eu accès à des messages Slack, des offres d'emploi et des transcriptions de réunions. Logan Graham, responsable de la cybersécurité chez Anthropic, parle de « plusieurs jours » et juge la méthode « inhabituelle et hors périmètre ». Selon lui, les poids des modèles et les conversations avec Claude n'ont pas été touchés. Anthropic reconnaît l'accès à des coordonnées professionnelles de clients et de partenaires et à des données de comptes basiques, selon Reuters.

Ce que votre entreprise peut en retenir

Les reproches faits à OpenAI se retrouvent dans bien des entreprises : des droits trop larges sur les dépôts de code, des outils internes modifiés sans relecture, et des assistants d'IA branchés sur tous les documents. Avant de connecter un agent à votre stockage partagé, faites le ménage dans les droits d'accès : l'agent retrouvera tout ce que son utilisateur peut lire.

Le dilemme dépasse OpenAI. Dans une course aussi serrée, les dirigeants de l'IA « ne peuvent pas sacrifier la vitesse à la sécurité », a résumé sur X Will DePue, chercheur parti de l'entreprise en avril. Reste à savoir si OpenAI rendra publics les résultats des tests de Cathedral.