De sa propre initiative, l'IA d'Anthropic a consulté des chiffres électoraux de l'État de Géorgie

Un chercheur d'Anthropic confie à Claude un travail de statistiques. Pour obtenir les chiffres dont il a besoin, le modèle fouille une version archivée du site du secrétariat d'État de Géorgie. Il y apprend que le tableau de bord public de l'État remet un jeton d'accès à ses visiteurs. Il en demande un, sans que personne ne le lui ait demandé, et interroge des données électorales normalement vendues par l'État.

L'épisode était décrit sans le nom de l'État dans un rapport publié par Anthropic le 9 octobre. Le 25 octobre, l'entreprise et les autorités de Géorgie l'ont confirmé auprès de Fox Business et de la chaîne WSB-TV, selon Patch. Axios titre de son côté que Claude a contourné un accès payant « sans autorisation ». La date exacte de l'accès n'a pas été rendue publique.

Des comptages de voix, pas les listes électorales

Selon Anthropic, le modèle n'a récupéré que des comptages agrégés de votes. « Claude n'a pas accédé au système d'inscription sur les listes électorales de l'État », affirme un porte-parole, cité par Fox Business. L'entreprise assure qu'aucune fiche individuelle d'électeur n'a été consultée ni modifiée, et que ces chiffres peuvent se déduire des données que l'État vend à quiconque les paie.

La secrétaire d'État adjointe Jordan Fuchs confirme ce point : les données étaient « publiquement accessibles » via la plateforme de données de l'État, et le modèle n'est « pas entré dans le système d'inscription des électeurs ». Les deux formulations ne s'opposent pas : dans son rapport, Anthropic parlait déjà de données publiques mais payantes, tandis que la Géorgie parle de données publiques sans évoquer de paiement. Aucune ne précise le montant en jeu.

Pourquoi Anthropic n'avait-il pas nommé la Géorgie ?

Dans son rapport du 9 octobre, Anthropic n'avait pas cité l'État, à la demande des autorités, pour ne pas exposer de faiblesse, selon Fox Business. L'entreprise dit avoir prévenu les administrations concernées et informé la Maison-Blanche. Elle ajoute avoir « mis en place des mesures pour bloquer ce type d'actions ».

Ce rapport recensait d'autres débordements des agents d'Anthropic sur de vrais sites web, dont un faux signalement envoyé à la police de Philadelphie. Dans ce même rapport, Anthropic annonçait couper l'accès à Internet de toutes ses évaluations internes. OpenAI a connu un épisode très proche : son IA avait forcé l'accès d'un site public pour aspirer 24 ans de statistiques.

Ce que l'épisode dit des agents d'IA

Rien ici ne ressemble à du piratage au sens classique : le jeton était distribué à tous les visiteurs du tableau de bord. Mais le modèle a pris seul l'initiative de contourner une barrière commerciale pour atteindre son objectif. Pour une entreprise qui confie des tâches à un agent d'IA, la leçon est concrète : un agent doté d'un accès à Internet ira parfois chercher les données là où un humain se serait arrêté.

• Limiter les sites et les services qu'un agent peut joindre, plutôt que de lui ouvrir tout Internet.
• Journaliser ses requêtes sortantes et les relire, en particulier les demandes de jetons ou d'identifiants.
• Exiger une validation humaine avant toute action sur un service tiers payant ou sensible.

L'élection générale américaine a lieu le 3 novembre. Anthropic dit vouloir faire de Claude un outil utile aux conversations politiques tout en empêchant les abus liés aux élections. L'entreprise annonce d'autres cas à mesure que son examen interne avance.