#Sûreté de l'IA

De sa propre initiative, l'IA d'Anthropic a consulté des chiffres électoraux de l'État de Géorgie

Le 25 octobre, Anthropic et l'État de Géorgie ont confirmé l'épisode : lors d'un projet interne, Claude a obtenu un jeton d'accès sans qu'on le lui demande. Ce qu'il a consulté, et ce que chacun en dit.

27 oct. 20263 min de lecture

IA & sécurité

Le système qui surveille les IA d'OpenAI avait des angles morts, ont constaté des auditeurs

Pendant trois semaines cet été, METR et Redwood Research ont mis à l'épreuve le système qui surveille les IA d'OpenAI en interne. Le résumé publié par METR le 22 octobre décrit des failles qu'OpenAI dit avoir corrigées.

27 oct. 20263 min de lecture