Anthropic révise sa feuille de route de sécurité et retire un objectif sur l’alignement
Anthropic ajoute des objectifs de contrôle et d’évaluation. Le laboratoire retire aussi un engagement d’alignement dans sa forme actuelle tout en maintenant certaines obligations.
Anthropic modifie sa feuille de route publique de sécurité le 19 octobre 2026. Les changements réunissent des travaux que le laboratoire considère comme terminés et de nouveaux objectifs. Ils comprennent aussi le retrait d’un objectif d’alignement dans sa forme actuelle. Ces éléments figurent dans la Frontier Safety Roadmap et ses archives détaillées. Il s’agit d’engagements volontaires et de résultats déclarés par l’entreprise. Ce document ne vaut ni loi adoptée ni évaluation indépendante de Claude.
Deux propositions de politique publique à venir
Anthropic prévoit de publier une proposition sur des évaluateurs indépendants intégrés au travail des laboratoires. L’échéance annoncée est le 15 décembre 2026. Le projet doit examiner leur financement et l’accès dont ils ont besoin. Il doit aussi préciser comment préserver leur indépendance. Ce calendrier concerne une proposition à élaborer. Il n’annonce pas un dispositif public déjà obligatoire.
Un deuxième objectif porte sur le rythme du développement de l’IA. Anthropic avance une échéance au 15 janvier 2027 pour une proposition ou une explication de sa décision de ne pas en publier. Le laboratoire estime que l’automatisation de la recherche pourrait accélérer les progrès plus vite que les protections. Cette appréciation reste une analyse prospective de l’entreprise. Elle ne démontre pas qu’un tel scénario s’est déjà produit.
La distinction entre objectif et réalisation est utile pour lire une feuille de route. Une date future permet d’identifier le rendez-vous annoncé. Elle ne doit pas être reprise comme la date d’entrée en vigueur d’une règle. Le contenu exact et son éventuelle adoption devront encore être examinés.
Un objectif d’alignement retiré dans sa forme actuelle
Les archives expliquent que le laboratoire retire l’objectif intitulé « Upholding Claude’s Constitution ». Anthropic indique qu’un contrôle spécifique d’un échantillon de données d’entraînement ne révélait rien de plus que ses autres procédures de revue. L’entreprise dit avoir cessé de le pratiquer de manière routinière. Elle reconnaît aussi avoir moins éprouvé certains arguments d’alignement par des tests adversariaux qu’elle ne l’avait envisagé.
Ça ne signifie pas qu’Anthropic supprime la Constitution de Claude. Le laboratoire maintient notamment un engagement de mise à jour publique dans les quatre-vingt-dix jours des déploiements concernés. Il présente aussi ses évaluations d’alignement et ses travaux d’interprétabilité comme des activités qui continuent. L’objet retiré et les pratiques conservées doivent donc rester séparés.
Des protections déclarées plutôt qu’une garantie générale
L’entreprise présente d’autres travaux comme achevés. Un prototype vérifie que des sorties proviennent des poids de modèle attendus. Anthropic emploie désormais l’expression de vérification de l’inférence. Ce mécanisme vise l’intégrité de l’exécution. Il ne garantit pas que chaque réponse est vraie ou qu’elle respecte toutes les attentes d’un utilisateur.
Le laboratoire rapporte également des comparaisons internes entre un système automatisé de recherche de contournements et les contributions à son programme de primes. Il annonce une publication plus détaillée à venir. Ces résultats portent sur le protocole décrit. Ils ne démontrent pas une supériorité générale sur toutes les formes d’attaque ou sur toute expertise humaine.
La traçabilité des changements devient centrale
La feuille de route ajoute des objectifs de sécurité des centres de données et des plateformes. Les objectifs publics peuvent évoluer. Pour les comprendre, il faut regarder ce qui a été ajouté et ce qui a été retiré. Il faut aussi distinguer le motif déclaré d’un changement et une preuve indépendante de son efficacité.
L’enjeu de l’accès des évaluateurs prolonge notre article sur Anthropic et METR. Cette nouvelle feuille de route n’équivaut pas à l’ouverture d’un accès supplémentaire déjà vérifié.
Pour choisir et utiliser une IA, ces distinctions rendent les engagements lisibles. Un bilan fournisseur peut éclairer ses priorités. Il gagne à être confronté aux rapports publiés et à leurs limites plutôt qu’à être transformé en promesse de sécurité absolue.