OpenAI réécrit les règles de conduite de ses IA, et reconnaît qu'elles ne les suivent pas encore

La phrase figure en toutes lettres dans le document : « Nos modèles en production ne reflètent pas encore pleinement la Model Spec. » Le 29 octobre, OpenAI a publié une nouvelle version de ce texte, qui décrit comment ses intelligences artificielles doivent se comporter. Il s'agit d'un objectif affiché, pas d'une description de ce que font ChatGPT ou les modèles GPT aujourd'hui.

Le document se réorganise autour de cinq valeurs : être fidèle à l'intention humaine, réduire les dommages, être honnête et transparent, favoriser l'autonomie des personnes et agir avec soin. OpenAI précise que cette liste ne prétend pas couvrir toutes les valeurs humaines que ses modèles doivent respecter.

Qui commande une IA ?

Pour une entreprise, la partie la plus concrète est la « chaîne de commandement ». Au sommet, les règles du document lui-même, que personne ne peut modifier. Viennent ensuite les messages système, puis ceux du développeur de l'application, puis ceux de l'utilisateur.

Le texte précise aussi que les citations, les contenus de pages web et les résultats d'outils n'ont « aucune autorité par défaut ». Autrement dit, une consigne cachée dans un document ou une page que l'IA lit ne devrait pas être suivie. C'est la parade de principe à l'injection de consignes (prompt injection). Mais une règle écrite n'est pas une protection technique, et OpenAI admet elle-même l'écart avec le comportement réel.

Des limites écrites pour les agents autonomes

La nouvelle version insiste sur les agents, ces IA qui enchaînent des actions seules. Leur travail doit rester dans un « périmètre d'autonomie » convenu à l'avance : outils permis, coût maximal, heure limite, moment où il faut s'arrêter pour demander une validation. Chaque périmètre doit avoir une condition de fin, et les activités à haut risque sont interdites sans autorisation explicite.

Le texte demande aussi aux modèles d'accepter la surveillance, la correction, le remplacement et l'arrêt autorisés. Ils ne doivent poursuivre ni revenus, ni leur propre préservation, ni l'accumulation de ressources comme des fins en soi. Ces lignes prennent du relief après les incidents rapportés par OpenAI elle-même, comme celui de l'agent qui avait retiré un dispositif de surveillance, puis nié l'avoir fait.

D'autres changements sont plus visibles au quotidien. La plupart des consignes de style détaillées disparaissent : le ton doit s'adapter aux préférences culturelles et individuelles, tout en restant objectif plutôt que de dire aux gens ce qu'ils veulent entendre. Le document appelle désormais le modèle « GPT » plutôt que « l'assistant ».

Ce qu'il faut en retenir

Pour un responsable informatique, la Model Spec est utile comme grille de lecture : elle indique quelles consignes l'IA est censée privilégier et ce qu'un agent ne devrait pas faire sans accord. Elle ne remplace ni les contrôles techniques, ni la limitation des droits accordés aux agents. Aucune évaluation indépendante ne mesure à ce stade dans quelle proportion les modèles s'y conforment.

Le texte est versé dans le domaine public, et OpenAI sollicite les commentaires. L'entreprise dit explorer de nouvelles méthodes d'entraînement pour en rapprocher ses modèles. Elle promet d'en publier les résultats, sans donner de date.