Исследователи переключили манеру ответов модели Qwen правкой одного нейрона

Исследователи показали, что у модели Qwen переключается манера ответа при правке одного-единственного нейрона — отдельного числа внутри сети. Сайт с демонстрацией даёт поменять значение и сразу увидеть, как меняется тон и содержание ответов.

Устойчивого «характера», размазанного по всей сети, у модели в этой части не оказалось: поведение держится на узком месте, которое можно найти и переключить снаружи. В комментариях спорят, насколько это переносится на другие семейства моделей и сколько таких переключателей есть ещё.