Правка двух нейронов в модели Qwen3.5 портит её характер и качество ответов

Исследовательница показала, что характер модели Qwen3.5 на 4 млрд параметров меняется от правки двух нейронов. Во время работы модели к активации нейрона L14 N8949 прибавляют единицу, а из активации L13 N7956 вычитают — приём называется steering, то есть ручное смещение внутреннего сигнала.

После такой правки модель начинает отвечать как карикатурный злодей и заметно глупеет на обычных задачах. То есть «личность» в ответах держится на очень узком участке сети, а не распределена по ней равномерно.

Побочный эффект важнее трюка: смещение двух чисел ломает тон и заодно качество рассуждений, и отличить одно от другого на выходе модели нельзя.