Модель Astra починила другую модель, вручную переписав числа внутри неё

Исследователь Rikiya T. показал, как модель GPT-6 Astra чинит другую модель, редактируя её веса — числа внутри нейросети, которые обычно меняют только обучением. Маленькая Qwen на 0,8 млрд параметров зацикливалась в рассуждениях: повторяла один и тот же кусок текста вместо ответа.

Astra получила доступ на чтение и запись в веса, нашла, какие именно значения дают зацикливание, и поправила их вручную — как текстовый редактор правит файл. Переобучения не было.

Разбор собрал более 600 комментариев на Hacker News: спорят, насколько это переносится на большие модели и не был ли дефект заранее очевидным. Автор приводит только один случай, без серии замеров на других моделях.