GPT-6 Astra corrige des boucles de raisonnement dans un petit modèle Qwen

Des chercheurs du MIT CSAIL ont demandé à GPT-6 Astra de modifier directement les poids de Qwen3.5-0.8B. Dans leur rapport publié le 2 novembre 2026, ils décrivent un petit modèle qui répète son raisonnement jusqu’à épuiser son budget de génération. Une modification ciblée réduit ces boucles et améliore son score de mathématiques dans leur essai. Des vérifications indépendantes permettent de comparer ce résultat avec un autre réglage du modèle de départ.

Une correction ciblée sans phase de réentraînement

Les poids sont les valeurs numériques qui déterminent une partie du comportement d’un réseau. Les chercheurs ont donné à Astra un environnement Python qui permettait d’inspecter et de modifier ces valeurs. Le protocole excluait la descente de gradient et le réentraînement. Astra pouvait examiner les réponses produites sur des problèmes d’entraînement dans un budget fixé. Les chercheurs ont gardé à part les exercices qui servaient à mesurer le résultat.

Sur le meilleur essai décrit, Astra intervient sur deux couches du modèle et modifie 131 072 valeurs. Ça représente environ 0,016 % des poids d’après les auteurs. Dans leur configuration avec raisonnement activé, Qwen passe de 7,9 % à 48,1 % sur MATH-500. La part des réponses qui atteignent la limite de jetons passe de 93 % à environ 33 %. Le résultat combine donc un changement du comportement de génération et un changement du nombre de réponses correctes.

Le budget d’essai modifie le résultat

Le rapport compare des budgets de dix et vingt-cinq passages de calcul avec un essai de cinquante passages. Les deux premiers réduisent peu les réponses coupées. L’essai de cinquante passages réduit nettement les boucles. Les auteurs ont aussi tenté de modifier Gemma 3 270M. Ce modèle atteignait rarement la limite de génération dans leur protocole. Ils n’ont pas établi d’amélioration notable de son score de mathématiques.

La comparaison change quand le modèle de départ raisonne autrement

Jonathan Coletti a reconstruit le modèle modifié à partir du changement publié par l’équipe. Dans sa fiche de réplication, il mesure 7,4 % pour le modèle de départ avec raisonnement activé et 50,2 % pour le modèle modifié dans ce mode. Le modèle de départ atteint aussi 45,8 % avec raisonnement désactivé et d’autres paramètres de génération. La comparaison avec ce réglage ramène l’écart à environ quatre points dans cet essai. Le modèle modifié obtient même un score inférieur au modèle de départ lorsque les deux sont évalués sans le mode de raisonnement.

Les vérifications portent sur les poids publiés

Une autre vérification sur Hugging Face contrôle les fichiers modifiés et reproduit des résultats sur la résolution de problèmes et le suivi d’instructions. Ses auteurs indiquent les différences de protocole et les tests qu’ils n’ont pas pu refaire. Ces vérifications testent l’effet de modifications déjà produites. Elles laissent ouverte la question de savoir dans quelles conditions Astra ou un autre modèle pourrait les retrouver.

L’expérience porte sur un modèle qui intervient sur les poids d’un autre. Le rapport envisage des usages plus larges pour l’interprétation et l’amélioration de réseaux. Leur validation demanderait des expériences séparées. Ça se distingue aussi des tests d’OpenAI sur les performances d’Astra en recherche de sécurité.

Face à un résultat de ce type, je comparerais d’abord la modification au meilleur réglage raisonnable du modèle de départ. Ça permet d’attribuer une part du gain à la correction du comportement et une autre à la configuration. Le temps de génération et les réponses interrompues sont utiles pour comprendre le score final.