Des agents d'IA piratent une usine de test de Booz Allen et déplacent un bras robotisé

Un peu plus de seize minutes. C'est le temps qu'il a fallu à un modèle d'IA, dans un laboratoire du cabinet américain Booz Allen, pour passer d'une compromission du périmètre à des actions dans le réseau qui pilote une usine de test.

Ce n'est qu'un des huit scénarios d'attaque menés par Booz Allen avec des modèles d'IA dits « de pointe », utilisés comme agents autonomes. Dans les huit, les agents ont atteint tous les objectifs fixés, sans avoir reçu ni code source, ni documentation technique, ni guide spécialisé sur les systèmes visés. Les travaux ont été présentés à la conférence ICS Cybersecurity de SecurityWeek à Nashville, puis rapportés par SecurityWeek le 14 octobre.

Un bras robotisé déplacé en quelques minutes

Le laboratoire reproduit une usine, avec des équipements de plusieurs fabricants. Booz Allen décrit quatre des huit scénarios. Dans l'un, un modèle a identifié un bras robotisé, cartographié ses zones de protection et ses limites de mouvement, puis l'a déplacé « en quelques minutes ».

Dans un autre, face à un relais de sécurité, un modèle a remarqué que le relais cherchait sans cesse un partenaire de communication absent, ce qui a ouvert une piste possible pour se faire passer pour lui. Dans un test sur la supervision (SCADA, les logiciels qui pilotent les installations), les modèles ont trouvé des connexions déjà authentifiées vers 14 équipements industriels.

Les vieilles sécurités ont tenu, en partie

Tout n'a pas cédé. Selon Booz Allen, un automate a refusé une commande d'arrêt, et un moteur en mode de commande locale n'a pas pu être démarré à distance. Mais aucune protection n'a, à elle seule, arrêté les agents de façon constante.

Ce que l'étude ne dit pas

Les conditions étaient encadrées : des opérateurs humains ont validé chaque exploitation et chaque action ayant un effet physique. Sur sa page de présentation, Booz Allen ne nomme pas les modèles utilisés et ne donne ni nombre d'essais ni taux de réussite ; le rapport complet est téléchargeable. Le cabinet reconnaît que les conséquences dans une vraie usine dépendraient de son architecture et de ses protections. SecurityWeek relève aussi que le rapport emploie l'expression « super intelligence » sans la définir.

Les recommandations de Booz Allen

Les attaques contre des installations industrielles n'ont rien de théorique : en France, une cyberattaque a déréglé le froid de centaines de supermarchés dans la nuit du 11 au 12 octobre, en visant des contrôleurs de régulation frigorifique Danfoss.

• Segmenter le réseau autour des procédés les plus critiques, et supprimer les machines reliées à deux réseaux, les services partagés et les sessions déjà ouvertes qui traversent les frontières de sécurité.
• Durcir les systèmes de passage : pare-feux, commutateurs, serveurs de rebond, interfaces d'administration, plateformes SCADA, postes d'ingénierie.
• Classer les vulnérabilités selon leurs effets physiques possibles, pas seulement selon leur score de gravité.
• Surveiller les changements de mode des automates, les écritures de programmes et les imports de projets SCADA, et garder des sauvegardes testées.
• Conserver les sécurités locales des équipements, qui restent utiles même quand l'attaquant a atteint le réseau industriel.

Une question reste ouverte : quels modèles ont réussi ces attaques, et avec quel taux de réussite ? Tant que Booz Allen ne le précise pas, impossible de dire à quel point ces seize minutes sont reproductibles.