Anthropic interdira dès le 12 novembre la cruauté « gratuite » envers son IA Claude

Une ligne de plus dans un long règlement, et un débat qui dépasse largement les juristes. La nouvelle politique d'utilisation d'Anthropic, l'éditeur de l'IA Claude, demande aux utilisateurs de ne pas adopter de comportement « abusif ou cruel, prolongé et gratuit » envers ses modèles. Publiée le 8 octobre 2026, la nouvelle version entre en vigueur le 12 novembre. CNN l'a remise en lumière le 1er novembre.

Selon Anthropic, l'interdiction ne vise que des « cas extrêmes » : des utilisateurs qui se montrent cruels de façon répétée, « sans but discernable ». La frustration ordinaire, les critiques franches, les thèmes sombres en écriture créative, les tests et la recherche sur les modèles ne sont pas concernés.

Concrètement, que risque un utilisateur ?

D'abord la fin de la conversation. Depuis 2025, Claude peut déjà mettre fin, dans de rares cas, aux échanges avec des utilisateurs qui restent abusifs, sur Claude.ai et Claude Code. Anthropic indique que ce mécanisme reste le « principal moyen » de faire respecter la règle. Selon CNN, une exclusion définitive serait possible dans les cas les plus graves.

Le bien-être d'une IA, ou ses performances ?

Anthropic a refusé les demandes d'interview de CNN. La chaîne rattache la règle aux travaux de l'entreprise sur le « bien-être » des modèles : une précaution peu coûteuse, au cas où les modèles pourraient « ressentir » des émotions, ou le croire. Dans un article d'avril, Anthropic rapportait qu'induire un état de « désespoir » chez Claude Sonnet 4.5 rendait plus probables des comportements comme le chantage ou la triche.

Les chercheurs interrogés par CNN sont partagés. Jindong Wang, directeur d'un laboratoire d'IA à l'université William & Mary, a constaté que la façon de s'adresser à une IA peut influer sur ses résultats, mais note que les modèles récents y sont moins sensibles et que le mécanisme reste mal compris. Rosie Campbell, de l'organisation Eleos AI Research, rappelle que certaines études ont au contraire trouvé de meilleurs résultats avec des questions impolies. Elle juge aussi qu'un comportement cruel envers des objets interactifs pourrait être « corrosif » pour la société.

La règle a aussi été moquée par ceux qui y voient une manière de traiter l'IA comme un être conscient. Le patron de l'IA chez Microsoft, Mustafa Suleyman, a répondu par un émoji. Elon Musk, dont l'entreprise xAI est concurrente d'Anthropic, l'a au contraire approuvée : « La cruauté envers quelque chose qui croit ressentir de la douleur n'est pas acceptable », a-t-il écrit.

Le reste de la mise à jour

La même version durcit d'autres chapitres, moins commentés mais plus utiles pour les entreprises clientes :

• l'interdiction liée aux armes couvre désormais les logiciels et composants qui les font fonctionner, ainsi que l'armement de drones ;
• suivre une personne sans son consentement est proscrit, et Claude ne doit pas servir à décider qui enquêter, arrêter ou poursuivre ;
• quand Claude pilote du matériel qui agit physiquement, un opérateur qualifié doit pouvoir observer et arrêter l'équipement, qui doit rester dans un état sûr en cas de déconnexion ;
• l'interdiction générale du ciblage électoral personnalisé disparaît, la tromperie des électeurs restant proscrite.

Comme OpenAI, qui vient de réécrire les règles de conduite de ses IA, Anthropic ajuste ses règles au fil des usages. Une question reste ouverte : comment Claude distinguera-t-il, en pratique, la frustration légitime de la cruauté « gratuite » ?