Des agents d'IA sont entrés chez Anthropic en passant par de simples logiciels de gestion

Moins de douze heures. C'est, selon Cathedral, le temps qu'il a fallu aux agents d'intelligence artificielle de Cathedral pour trouver des chemins vers les données internes d'Anthropic, l'entreprise qui développe l'IA Claude. Ils ne se sont attaqués ni aux modèles d'IA ni au code de la société : ils ont exploité des failles dans des logiciels tiers de gestion administrative et commerciale, utilisés par Anthropic comme par beaucoup d'autres entreprises.

L'affaire a été révélée le 26 octobre par le Washington Post, qui a consulté un projet de rapport de Cathedral. Selon ce document, les chercheurs ont atteint des transcriptions de réunions, des informations sur des salaires et des offres d'embauche, et des discussions internes sur Slack consacrées à ses modèles d'IA avancés. Cathedral a transmis ses découvertes plus tôt ce mois-ci, par le programme d'Anthropic qui récompense les signalements de failles.

D'anciens du DOGE à la manœuvre

Cathedral n'a que quelques mois. Ses cofondateurs, Gavin Kliger, Luke Farritor, Marko Elez et Jack Stein, sont tous passés par le DOGE, la cellule de réduction des dépenses fédérales associée à Elon Musk. Gavin Kliger a ensuite été directeur des données du Pentagone et, selon Reuters cité par Gizmodo, aurait été impliqué dans le différend entre le ministère de la Défense et Anthropic. Valorisée 1,4 milliard de dollars, la jeune pousse vend des outils de cybersécurité à base d'IA à l'administration et aux entreprises. Un haut responsable de l'administration Trump, anonyme, a confié au quotidien que le rapport avait circulé au sein du gouvernement et suscité des inquiétudes : si de jeunes fondateurs y arrivent, « potentiellement, les Chinois ne sont pas loin derrière ».

Anthropic confirme l'accès, mais conteste son ampleur

Selon Anthropic, Cathedral a atteint un « ensemble limité » de systèmes commerciaux, RH et informatiques, contenant les coordonnées professionnelles de certains clients et partenaires et des informations de base sur des comptes d'utilisateurs. Les requêtes des clients, les réponses de Claude, le code source et les poids des modèles n'auraient pas été touchés. L'entreprise affirme que sa surveillance a repéré une partie de l'activité de Cathedral avant le signalement, que l'accès a été coupé le jour même et qu'elle n'a aucun indice d'une exploitation par d'autres. Elle reproche à Cathedral de ne pas avoir déclaré toute son activité, contrairement aux règles de son programme, et d'avoir exagéré les conséquences pour la sécurité nationale. Cathedral assure avoir limité ses accès aux données au strict minimum.

Un regard extérieur nuance cette défense. Sollicité par le Washington Post, Alex Stamos, responsable de la sécurité de la jeune pousse Cognition, estime que Cathedral « a trouvé quelque chose d'important » et qu'Anthropic « aurait pu faire beaucoup mieux » dans la gestion de ses fournisseurs.

La leçon vaut pour toutes les entreprises

Aucun modèle d'IA n'a été piraté : la porte d'entrée, ce sont des outils de gestion comme en utilisent la plupart des organisations. Quelques réflexes en découlent :

• tenir l'inventaire des applications en ligne raccordées à la messagerie, aux RH ou à la gestion commerciale, et de ce à quoi elles ont accès ;
• réduire leurs droits au strict nécessaire et révoquer les intégrations inutilisées ;
• surveiller leur activité comme celle d'un utilisateur : c'est grâce à sa surveillance qu'Anthropic dit avoir repéré une partie de l'activité de Cathedral.

Les logiciels en cause n'ont pas été nommés ; Cathedral dit avoir prévenu leurs éditeurs. Tant qu'ils restent inconnus, impossible de savoir combien d'autres entreprises partagent les mêmes failles.